Back to explore

Perché l'output strutturato di Jev resiste al prompt injection

Il post sostiene che il prompt injection funziona perché il modello può scrivere l'istruzione successiva, mentre il modello di valutazione strutturata di Jev emette solo una probabilità, un'etichetta o un punto su una scala tipizzati; il testo di dirottamento può spostare il numero ma non diventare un comando.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Perché l'output strutturato di Jev resiste al prompt injection 1
· 0 likesOpen on X