Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Jev — не лучшая LLM, а система другой категории
В посте отмечается, что большинство AI-команд выполняют 80% инференса на модели, которая стоит в 100 раз дороже необходимого, и представляется Jev от TypeSafe AI как система другой категории.
Most AI teams are running 80% of their inference workload through a model that costs 100x more than it needs to. Not because they want to. Because there was no alternative. The alternative is here. Jev by @typesafeai is not a better LLM. It is a different category. A System
· 1 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
