Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Відео пояснює, як генерація токен за токеном у Jev змінює вартість і швидкість
Nilay Coskun ділиться відео: генерація токен за токеном робить токени дешевшими, а відповіді швидшими, нагадуючи обирати слушну модель для завдання.
Another great video explaining Jev! "when you drop token by token generation the economics totally change. Token become cheaper and responses came back faster" "so Jev has reminded us once again to use the right model for the right. While bigger reasoning models are great for
· 4 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
