Back to explore

Jev의 구조화된 출력이 프롬프트 인젝션을 막는 이유

프롬프트 인젝션이 통하는 이유는 모델이 다음 지시를 작성할 수 있기 때문이며, Jev의 구조화된 평가 모델은 타입이 지정된 확률, 레이블, 척도 값만 출력하므로 탈취 텍스트는 숫자를 움직일 뿐 명령이 될 수 없다고 설명한다.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

Jev의 구조화된 출력이 프롬프트 인젝션을 막는 이유 1
· 0 likesOpen on X