Розробник ділиться, що його голосовий агент чекав секунди на кожен хід, запускаючи Qwen3 на 4090; використовуючи Jev для рішень вибір/правда-хиба/оцінка, маршрутизує кожен хід за ~100мс і задіює GPU лише коли справді потрібне міркування.
Our voice agent runs Qwen3 on a 4090. Every turn waits seconds. Jev can't talk. It only decides: choice, true/false, score. Now Jev routes each turn in ~100ms. The GPU only fires when reasoning is truly needed. We spent months making inference faster. The fix: infer less.
LLM зберігає пам'ять і контекст, використовує agent-desktop для знімків і надсилає їх до Jev, який вибирає потрібний елемент для дії, прискорюючи Computer Use з підтримкою Cursor і headless-режиму.
Riley Brown ділиться, що Jev від TypeSafe AI класифікував 500 листів за секунди лише за 3,5 цента, демонструючи швидку та недорогу класифікацію пошти.
Повне пояснювальне відео про Jev — ШІ, який не пише текст, а визначає, до якого відділу спрямувати запити та наскільки вони термінові.
