Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Розуміння Jev без технічного жаргону: чому LLM здаються повільними в застосунках
Нетехнічне пояснення Jev: LLM часто здаються повільними в застосунках, бо розробники змушують їх щоразу «писати» відповідь — наче просити цілий абзац, щоб сказати «так».
Frankly I didn’t get this until today Here’s the non-technical friendly way to understand Jev: 👇🏼 Problem: LLMs often feel slow for a lot of app work because developers force it to “write” an answer every time Like asking someone to write a full paragraph just to say yes or
· 308 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
