Back to explore

Por que a saída estruturada do Jev resiste à injeção de prompt

O post argumenta que a injeção de prompt funciona porque o modelo pode escrever a próxima instrução, enquanto o modelo de avaliação estruturada do Jev só emite uma probabilidade, rótulo ou ponto em uma escala tipados; o texto sequestrador pode mover o número, mas não se tornar um comando.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Por que a saída estruturada do Jev resiste à injeção de prompt 1
· 0 likesOpen on X