Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev з центром на Astra та автоматичним внутрішнім виведенням
Автор зазначає, що Jev з центром на Astra вже доступний і достатньо просто використовувати Astra; Jev дозволяє всім моделям автоматично розрізняти через внутрішнє виведення, і згадує, що інші моделі використовують спеціальний config, а основна версія складніша.
謎にバズってて悲しい DMでも質問が来たので▼ Astra中心のJevもできてるけど、シンプルにAstraでよい。Jevは全モデルに内部推論で自動判別させてる形で活躍してる。 他モデル搭載してるが、これは通常Verではなく特殊Verのconfigで、一軍仕様はもうちょい仕組みが複雑で違うのでまた紹介しやす。
· 2 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
