Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Карпаты называет Jev упущенной точкой на кривой Парето LLM
В посте приводится мнение Карпаты о том, что Jev — это ранее упущенная точка на кривой Парето LLM, и выстраивается спектр от Rules к Classifier, Jev, Flash, General LLM и Reasoning LLM: Flash — более быстрый общий интеллект, Jev — более узкий интеллект принятия решений; многим задачам достаточно, чтобы интеллект перешёл порог, после чего задержка, стоимость и детерминизм важнее.
Karpathy 说 Jev 是 LLM Pareto curve 上一个此前被忽略的点。 画出来之后更直观： Rules → Classifier → Jev → Flash → General LLM → Reasoning LLM Flash 是更快的通用智能，Jev 是更窄的决策智能。 很多任务不需要最高智能，只需要智能过线。过线之后，延迟、成本和确定性反而更重要。
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
