Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Модель Jev: ИИ-агентам не нужен LLM для каждого решения
Автор делится выводами после знакомства с Jev от TypeSafe AI: решения вроде маршрутизации запросов, вызова инструментов или оценки рисков не всегда требуют LLM.
AI agents don't always need an LLM to make every decision That was my biggest takeaway after learning about Jev from TypeSafe AI We often use LLMs for tasks like: → Which team should this request go to? → Should this tool be called? → Is this action risky? → Which model
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
