Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev w hierarchii decyzyjnej: mała ograniczona klasyfikacja i routing
Autor dzieli się hierarchią decyzyjną: problemy deterministyczne z kodem, mała ograniczona klasyfikacja, routing, scoring lub rozmyte decyzje z Jev, a generowanie, realizacja zadań lub umiarkowane rozumowanie z tanim modelem API.
My current hierarchy is becoming: Deterministic problem? -> Write code. Small, bounded classification, routing, scoring, or fuzzy decision? -> Use something like Jev. Generation, task completion, or moderate reasoning? -> Use a cheap API model like Luna or DeepSeek Flash.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
