Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Diffusion LLM може краще підходити для швидких моделей рішень типу Jev
Допис зазначає, що Jev не може генерувати безперервні координати кліку переліком, тоді як Diffusion LLM дає більшу виразність за схожої швидкості, і прогнозує Computer на 50 mspt.
woc一语点醒梦中人，Google果真有高人在的，Diffusion LLM才是最适合Jev这种快速决策模型的架构，而且可以在保持推理速度相同的同时有比Jev这种模型更强的表达能力（比如要生成鼠标点击动作，Jev是没办法通过枚举选项生成连续点击坐标的，但是DLLM就可以） 过一段时间说不定就会有50 mspt 的Computer
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
