Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Модель Jev: від передбачення наступного токена до передбачення відповідей
Модель Jev передбачає відповіді безпосередньо, а не наступний токен, і підтримує лише три типи запитань: так/ні, вибір одного з до 255 та користувацька шкала від 2 до 10 рівнів.
okay, wtf is jev? in first principles, - normal LLMs predict the next token - jev predicts the answer three question types only. - yes/no - pick one of up to 255 - a scale you define, 2 to 10 levels follow for more #jev #typesafe
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
