Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Покрокова генерація речень із ймовірностями Jev
У дописі пояснюється, що якщо помістити Jev у цикл і покроково вибирати найімовірніше слово, можна генерувати речення, і зазначається можливість семплювання зі слів із високою ймовірністю.
Did you know that, if you put jev in a loop, and simply select the most likely word over a vocab space step by step, you can make jev generate sentences? Since jev returns probabilities, you can actually get quite a few words with high probabilities, and if you sample from those
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
