Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev — не краща LLM, а система іншої категорії
У дописі зазначено, що більшість AI-команд виконують 80% інференсу на моделі, яка коштує у 100 разів дорожче за потрібне, і представлено Jev від TypeSafe AI як систему іншої категорії.
Most AI teams are running 80% of their inference workload through a model that costs 100x more than it needs to. Not because they want to. Because there was no alternative. The alternative is here. Jev by @typesafeai is not a better LLM. It is a different category. A System
· 1 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
