Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
TypeSafe представляє Jev: модель System One, яка не пише текст
Jev приймає стан застосунку та типізовані запитання, повертаючи варіанти, оцінки й калібровані ймовірності за 70–500 мс. Без парсингу та чат-бота; велика LLM залишається для письма.
⚡🧠 TypeSafe just put a new primitive on the table: #Jev, a System One model that does not write text. You send app state plus typed questions. It returns choices, scores, and calibrated probabilities in 70–500ms. No parsing. No chatbot. Keep the big LLM for writing. Use Jev
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
