Back to explore

วางโมเดลตัดสินใจก่อนเชลล์: AI ที่รู้ว่าเมื่อไหร่ที่ไม่รู้

ก่อนที่ AI coding agent จะรันคำสั่งที่ย้อนกลับไม่ได้อย่าง rm -rf โมเดลตัดสินใจจะประเมินความมั่นใจ หากต่ำจะหยุดและขออนุมัติจากมนุษย์เพื่อป้องกันการลบโปรดักชัน

AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev

· 2 likesOpen on X