Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Основна різниця між LLM і Jev
У відео пояснюється, що типова LLM генерує текст або JSON токен за токеном, кожен токен залежить від попереднього, що потребує кількох послідовних етапів, тоді як Jev працює інакше.
The video is about the main difference between LLMs and Jev. Summary of this tweet from our friend: - A typical LLM generates text or JSON token by token. - Each token depends on the previous one; therefore, the model has to go through multiple sequential stages to produce a
· 91 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
