Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev оцінює рішення за один прохід замість генерації токен за токеном
Карл Вайнмайстер зазначає, що генеративний ШІ замінив класифікатори промптом, але Jev від TypeSafe AI повертає класифікатор: замість генерації тексту токен за токеном він оцінює рішення за один прохід, що підходить для випадків, де потрібен лише розумний if.
Generative AI replaced classifiers with a prompt. This week, the classifier came back with a vengeance in Jev from @typesafeai. Instead of generating text token by token, it scores decisions in a single pass. Sometimes you just need a smart if statement.
· 4 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
