Een ontwikkelaar deelt dat zijn spraakagent seconden per beurt wachtte bij het draaien van Qwen3 op een 4090; met Jev voor keuze/waar-onwaar/score-beslissingen routeert hij elke beurt in ~100ms en gebruikt de GPU alleen wanneer redeneren echt nodig is.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
Het LLM houdt geheugen/context bij, gebruikt agent-desktop voor snapshots en stuurt ze naar Jev, dat het juiste element kiest om te handelen, voor snellere Computer Use met Cursor en headless modus.
Riley Brown deelt dat Jev van TypeSafe AI 500 e-mails in seconden classificeerde voor slechts 3,5 cent, wat snelle en goedkope e-mailclassificatie laat zien.
Uitgebreide uitlegvideo over Jev, een AI die geen tekst schrijft maar bepaalt naar welke afdeling vragen moeten worden doorgestuurd en hoe urgent ze zijn.
