Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev від TypeSafe AI: рішення у вигляді так/ні, вибору або оцінки замість тексту
Представляє модель Jev від TypeSafe AI: вона не генерує слів, а повертає так/ні, вибір або оцінку з ймовірностями за 70–500 мс за $0,042 за мільйон.
Most LLM calls inside agents are decisions dressed up as text. The industry decided that intelligence has to speak in full sentences. Jev from TypeSafe AI generates zero words. It returns a yes/no, a choice or a score with probabilities in 70 to 500 ms, at $0.042 per million
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
