Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Досвід використання API моделі Jev від TypeSafe AI
Автор пробує популярну останнім часом модель Jev від TypeSafe AI і вважає її легкою у використанні; з погляду API вона надає докладний контекст (стан), а потім ставить кілька запитань з відповідними варіантами.
I took a look at the jev model from typesafeai, which has been super popular these past couple of days, and surprisingly, it's so easy to use (see pic). From the API perspective, it just provides detailed context (state), then gives it a few questions with corresponding options,
· 295 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
