Back to explore

Почему структурированный вывод Jev устойчив к промпт-инъекциям

В посте утверждается, что промпт-инъекция работает, потому что модель может написать следующую инструкцию, тогда как структурированная оценочная модель Jev выдаёт только типизированную вероятность, метку или точку на шкале — текст-перехватчик может изменить число, но не стать командой.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Почему структурированный вывод Jev устойчив к промпт-инъекциям 1
· 0 likesOpen on X