Back to explore

Модель принятия решений перед shell: ИИ, который знает, когда не знает

Прежде чем ИИ-агент выполнит необратимые команды вроде rm -rf, модель принятия решений оценивает уверенность; низкая уверенность останавливает и требует одобрения человека, чтобы не стереть продакшен.

AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev

· 2 likesOpen on X