Um desenvolvedor compartilha que seu agente de voz esperava segundos por turno ao executar Qwen3 em uma 4090; usando Jev para decisões de escolha/verdadeiro-falso/pontuação, roteia cada turno em ~100ms e só aciona a GPU quando o raciocínio é realmente necessário.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
O LLM mantém memória e contexto, usa o agent-desktop para tirar capturas e as envia ao Jev, que seleciona o elemento certo para agir, acelerando o Computer Use com Cursor e modo headless.
Riley Brown compartilha que o Jev da TypeSafe AI classificou 500 e-mails em segundos por apenas 3,5 centavos, destacando a classificação rápida e de baixo custo.
Vídeo explicativo completo apresentando Jev, uma IA que não escreve texto, mas determina para qual departamento encaminhar as consultas e qual a urgência.
