Back to explore

Warum Jevs strukturierte Ausgabe Prompt-Injection widersteht

Der Beitrag argumentiert, dass Prompt-Injection funktioniert, weil das Modell die nächste Anweisung schreiben kann, während Jevs strukturiertes Bewertungsmodell nur eine typisierte Wahrscheinlichkeit, ein Label oder einen Skalenwert ausgibt – der Hijack-Text kann die Zahl verschieben, aber kein Befehl werden.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Warum Jevs strukturierte Ausgabe Prompt-Injection widersteht 1
· 0 likesOpen on X