Разработчик делится: голосовой агент ждал секунды на каждый ход при запуске Qwen3 на 4090; с Jev для решений выбора/истина-ложь/оценки маршрутизация каждого хода занимает ~100мс, а GPU задействуется только когда действительно нужно рассуждение.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
LLM хранит память и контекст, использует agent-desktop для снимков и отправляет их в Jev, который выбирает нужный элемент для действия, ускоряя Computer Use с поддержкой Cursor и headless-режима.
Riley Brown делится, что Jev от TypeSafe AI классифицировал 500 писем за секунды всего за 3,5 цента, демонстрируя быструю и недорогую классификацию почты.
Полное объясняющее видео о Jev — ИИ, который не пишет текст, а определяет, в какой отдел направить запрос и насколько он срочный.
