Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Polityka zatwierdzania Jev jako prompt: werdykty w czasie wnioskowania
Wyjaśnia, że Jev w czasie wnioskowania otrzymuje politykę zatwierdzania, opis i wywołane parametry narzędzia i zwraca werdykt; zatwierdzone wywołania startują natychmiast, a odrzucone działają po codegenie jak zwykły PTC.
The approval policy is a prompt. Jev is provided the tool's approval policy, along with its tool description and invoked params at inference-time and returns a verdict. Approved calls start immediately and denied calls run once the codegen is complete just like normal PTC.
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
