Back to explore

Đặt mô hình quyết định trước shell: AI biết khi nào nó không biết

Trước khi AI coding agent chạy lệnh không thể đảo ngược như rm -rf, mô hình quyết định đánh giá độ tin cậy; độ tin cậy thấp sẽ dừng và yêu cầu con người phê duyệt để tránh xóa production.

AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev

· 2 likesOpen on X