Back to explore

Varför Jev:s strukturerade utdata motstår prompt-injektion

Inlägget hävdar att prompt-injektion fungerar eftersom modellen kan skriva nästa instruktion, medan Jevs strukturerade utvärderingsmodell endast matar ut en typad sannolikhet, etikett eller punkt på en skala; kapningstext kan flytta talet men inte bli ett kommando.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Varför Jev:s strukturerade utdata motstår prompt-injektion 1
· 0 likesOpen on X