Un développeur partage que son agent vocal attendait des secondes par tour en exécutant Qwen3 sur une 4090 ; en utilisant Jev pour les décisions choix/vrai-faux/score, il route chaque tour en ~100ms et n'active le GPU que lorsque le raisonnement est vraiment nécessaire.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
Le LLM conserve mémoire et contexte, utilise agent-desktop pour prendre des captures et les envoie à Jev, qui sélectionne le bon élément pour agir, accélérant Computer Use avec Cursor et en mode headless.
Riley Brown partage que Jev de TypeSafe AI a classé 500 e-mails en quelques secondes pour seulement 3,5 centimes, illustrant une classification rapide et peu coûteuse.
Vidéo explicative complète présentant Jev, une IA qui n'écrit pas de texte mais détermine vers quel service acheminer les demandes et leur urgence.
