Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Дводвигунна архітектура JEV: швидка класифікація System-1 та глибоке міркування System-2
Описує перехід стеку ШІ-агентів до дводвигунної архітектури: System-1 на базі JEV виконує класифікацію та маршрутизацію менш ніж за 100 мс, а System-2 відповідає за важкі міркування LLM, обіцяючи у 100 разів швидше та у 400 разів дешевше.
The AI agent stack is shifting to a dual-engine architecture: ⚡ Fast System-1 (JEV): Sub-100ms classification & routing 🧠 Deep System-2: Heavy LLM reasoning 100x faster, 400x cheaper. #JEV #AI #Tech #AgenticAI
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
