Jevでコードベース分類器を構築
開発者がJevでコードベース分類器を構築し、エージェントが生成する過剰設計なコードの解決策になり得ると述べ、次のテスト対象を尋ねている。
AIコーディングエージェントがrm -rfなどの不可逆コマンドを実行する前に、意思決定モデルが信頼度を評価。低信頼度なら停止し人間の承認を求めることで本番環境の消去を防ぐ。
AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev