Back to explore

Waarom de gestructureerde output van Jev bestand is tegen prompt-injectie

Het bericht stelt dat prompt-injectie werkt omdat het model de volgende instructie kan schrijven, terwijl Jevs gestructureerde evaluatiemodel alleen een getypeerde waarschijnlijkheid, label of punt op een schaal uitvoert; overnametekst kan het getal verschuiven maar geen commando worden.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Waarom de gestructureerde output van Jev bestand is tegen prompt-injectie 1
· 0 likesOpen on X