Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Что такое Jev? Почему LLM внезапно выглядят медленными и дорогими
Эта статья объясняет, что такое Jev, и почему существующие LLM на его фоне выглядят медленными и дорогими.
Everybody Is Talking About Jev. Here’s What It Is, and Why LLMs Suddenly Look Slow and Expensive Read Here: https://medium.com/@neuraldev/everybody-is-talking-about-jev-heres-what-it-is-and-why-llms-suddenly-look-slow-and-expensive-138a96577982…
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
