Back to explore

Un modèle de décision avant le shell : une IA qui sait quand elle ne sait pas

Avant qu'un agent de codage n'exécute des commandes irréversibles comme rm -rf, un modèle de décision évalue la confiance ; une confiance faible déclenche un arrêt et une approbation humaine pour éviter d'effacer la production.

AI coding agent: "rm -rf $TARGET/" $TARGET = unset. One command can erase production. Instead, put a decision model before the shell. "irreversible: 0.33 confidence" Low confidence → STOP → human approval. The safety feature? AI that knows when it doesn’t know. #jev

· 2 likesOpen on X