Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
JEV przyspiesza pętle agentów
Większość agentów AI jest wolna, ponieważ ciągle wysyłają małe decyzje routingu do dużego modelu. JEV przenosi powtarzające się decyzje do szybszej warstwy i pozostawia ciężki model dla części, które naprawdę wymagają rozumowania. Plan: szybsza pętla agenta = stan strukturalny + JEV.
Most AI agents are slow because they keep sending tiny routing decisions back to a large model JEV moves those repeated decisions into a faster layer and keeps the heavy model for the parts that actually need reasoning roadmap: Faster Agent Loop = Structured State + JEV
· 12 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
