Back to explore

Pourquoi la sortie structurée de Jev résiste à l'injection de prompts

Le post affirme que l'injection de prompts fonctionne parce que le modèle peut écrire l'instruction suivante, alors que le modèle d'évaluation structurée de Jev ne produit qu'une probabilité, un label ou un point sur une échelle typés ; le texte détourné peut déplacer le nombre mais pas devenir une commande.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Pourquoi la sortie structurée de Jev résiste à l'injection de prompts 1
· 0 likesOpen on X