Создание классификатора кодовой базы с помощью Jev
Разработчик делится созданием классификатора кодовой базы с помощью Jev, предполагая, что это может решить проблему переусложнённого кода от агентов, и спрашивает, что тестировать дальше.
Прежде чем ИИ-агент выполнит необратимые команды вроде rm -rf, модель принятия решений оценивает уверенность; низкая уверенность останавливает и требует одобрения человека, чтобы не стереть продакшен.
AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev