Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Основное различие между LLM и Jev
В видео объясняется, что типичная LLM генерирует текст или JSON токен за токеном, каждый токен зависит от предыдущего, что требует нескольких последовательных этапов, тогда как Jev работает иначе.
The video is about the main difference between LLMs and Jev. Summary of this tweet from our friend: - A typical LLM generates text or JSON token by token. - Each token depends on the previous one; therefore, the model has to go through multiple sequential stages to produce a
· 91 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
