Ein Entwickler berichtet, dass sein Voice-Agent beim Ausführen von Qwen3 auf einer 4090 Sekunden pro Turn wartete; mit Jev für Entscheidungen wie Auswahl/Wahr-Falsch/Score routet er jeden Turn in ~100ms und nutzt die GPU nur, wenn wirklich Reasoning nötig ist.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
Das LLM hält Gedächtnis und Kontext, nutzt agent-desktop für Snapshots und sendet sie an Jev, der das richtige Element auswählt und ausführt – für schnelleres Computer Use mit Cursor und Headless-Betrieb.
Riley Brown berichtet, dass Jev von TypeSafe AI 500 E-Mails in Sekunden für nur 3,5 Cent klassifiziert hat – ein Beleg für schnelle und kostengünstige E-Mail-Klassifizierung.
Umfassendes Erklärvideo zu Jev, einer KI, die keinen Text schreibt, sondern entscheidet, an welche Abteilung Anfragen weitergeleitet werden und wie dringend sie sind.
