Back to explore

Mengapa Output Terstruktur Jev Menolak Prompt Injection

Post ini berargumen prompt injection berhasil karena model dapat menulis instruksi berikutnya, sedangkan model evaluasi terstruktur Jev hanya mengeluarkan probabilitas, label, atau titik pada skala yang bertipe; teks pembajak dapat menggeser angka tetapi tidak bisa menjadi perintah.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Mengapa Output Terstruktur Jev Menolak Prompt Injection 1
· 0 likesOpen on X