Back to explore

لماذا تقاوم مخرجات Jev المهيكلة حقن الأوامر

يشير المنشور إلى أن حقن الأوامر ينجح لأن النموذج قادر على كتابة التعليمات التالية، بينما لا يُخرج نموذج التقييم المهيكل في Jev سوى قيمة احتمال أو تصنيف أو نقطة على مقياس، لذا يمكن للنص الخبيث تحريك الرقم دون أن يصبح أمرًا.

Prompt injection works because the model can write the next instruction. A structured evaluation model cannot. Jev's only output is typed a probability, a label, a point on a scale. Text that tries to hijack an agent can move the number. It cannot become a command. That is why

لماذا تقاوم مخرجات Jev المهيكلة حقن الأوامر 1
· 0 likesOpen on X