Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Що таке Jev? Чому LLM раптом виглядають повільними та дорогими
Ця стаття пояснює, що таке Jev, і чому на його тлі наявні LLM виглядають повільними та дорогими.
Everybody Is Talking About Jev. Here’s What It Is, and Why LLMs Suddenly Look Slow and Expensive Read Here: https://medium.com/@neuraldev/everybody-is-talking-about-jev-heres-what-it-is-and-why-llms-suddenly-look-slow-and-expensive-138a96577982…
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
