Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Model Jev przypisuje prawdopodobieństwa wynikom
Autor wspomina, że pracuje nad postem na blogu porównującym Jev z Layą (w tym wersją dostrojoną) na temat stwierdzeń probabilistycznych, i podkreśla, że ważną cechą Jev jest przypisywanie prawdopodobieństw wynikom.
I figured this out last friday and was working on a blog post where I compare Jev to Laya (as well as a fine-tuned laya) on probabilistic statements and got scooped by this tweet. I think an important takeaway from jev is that it assigns probabilities to outcomes. In that way
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
