Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Карпати називає Jev пропущеною точкою на кривій Парето LLM
У дописі цитується думка Карпати, що Jev — це раніше пропущена точка на кривій Парето LLM, і вибудовується спектр від Rules до Classifier, Jev, Flash, General LLM та Reasoning LLM: Flash — швидший загальний інтелект, Jev — вужчий інтелект прийняття рішень; багатьом задачам достатньо, щоб інтелект перетнув поріг, після чого затримка, вартість і детермінізм стають важливішими.
Karpathy 说 Jev 是 LLM Pareto curve 上一个此前被忽略的点。 画出来之后更直观： Rules → Classifier → Jev → Flash → General LLM → Reasoning LLM Flash 是更快的通用智能，Jev 是更窄的决策智能。 很多任务不需要最高智能，只需要智能过线。过线之后，延迟、成本和确定性反而更重要。
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
