Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Karpathy nazywa Jev pominiętym punktem na krzywej Pareto LLM
Post cytuje opinię Karpathy'ego, że Jev to wcześniej pominięty punkt na krzywej Pareto LLM, i przedstawia spektrum od Rules do Classifier, Jev, Flash, General LLM i Reasoning LLM: Flash to szybsza inteligencja ogólna, a Jev to węższa inteligencja decyzyjna; wiele zadań wymaga jedynie przekroczenia progu inteligencji, po czym opóźnienie, koszt i determinizm stają się ważniejsze.
Karpathy 说 Jev 是 LLM Pareto curve 上一个此前被忽略的点。 画出来之后更直观： Rules → Classifier → Jev → Flash → General LLM → Reasoning LLM Flash 是更快的通用智能，Jev 是更窄的决策智能。 很多任务不需要最高智能，只需要智能过线。过线之后，延迟、成本和确定性反而更重要。
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
