Back to explore

نموذج قرار قبل الصدفة: ذكاء اصطناعي يعرف متى لا يعرف

قبل أن ينفذ وكيل البرمجة أوامر غير قابلة للتراجع مثل rm -rf، يقيّم نموذج قرار الثقة؛ الثقة المنخفضة توقف وتطلب موافقة بشرية لتجنب محو الإنتاج.

AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev

· 2 likesOpen on X