Un desarrollador comparte que su agente de voz esperaba segundos por turno al ejecutar Qwen3 en una 4090; al usar Jev para decisiones de elección/verdadero-falso/puntuación, enruta cada turno en ~100ms y solo activa la GPU cuando realmente se necesita razonamiento.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
El LLM mantiene memoria y contexto, usa agent-desktop para tomar capturas y las envía a Jev, que selecciona el elemento correcto para actuar, acelerando Computer Use con Cursor y modo headless.
Riley Brown comparte que Jev de TypeSafe AI clasificó 500 correos en segundos por solo 3,5 centavos, destacando su clasificación de correo rápida y económica.
Video explicativo completo que presenta a Jev, una IA que no escribe texto sino que determina a qué departamento dirigir las consultas y su urgencia.
