Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Diffusion LLM может лучше подходить для быстрых решающих моделей типа Jev
В посте отмечается, что Jev не может генерировать непрерывные координаты клика перебором, тогда как Diffusion LLM даёт большую выразительность при схожей скорости, и прогнозируется Computer с 50 mspt.
woc一语点醒梦中人，Google果真有高人在的，Diffusion LLM才是最适合Jev这种快速决策模型的架构，而且可以在保持推理速度相同的同时有比Jev这种模型更强的表达能力（比如要生成鼠标点击动作，Jev是没办法通过枚举选项生成连续点击坐标的，但是DLLM就可以） 过一段时间说不定就会有50 mspt 的Computer
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
