Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Karpathy noemt Jev een over het hoofd gezien punt op de LLM Pareto-curve
De post citeert Karpathy's visie dat Jev een eerder over het hoofd gezien punt is op de LLM Pareto-curve, en schetst een spectrum van Rules naar Classifier, Jev, Flash, General LLM en Reasoning LLM: Flash is snellere algemene intelligentie, Jev is smallere beslissingsintelligentie; veel taken hebben alleen intelligentie boven een drempel nodig, waarna latentie, kosten en determinisme belangrijker worden.
Karpathy 说 Jev 是 LLM Pareto curve 上一个此前被忽略的点。 画出来之后更直观： Rules → Classifier → Jev → Flash → General LLM → Reasoning LLM Flash 是更快的通用智能，Jev 是更窄的决策智能。 很多任务不需要最高智能，只需要智能过线。过线之后，延迟、成本和确定性反而更重要。
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
