Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev wielokrotnie oblewa test FizzBuzz
Użytkownik przetestował Jev na FizzBuzz 10 000 razy i stwierdził 77% awaryjności, prawie zawsze na tej samej liczbie, gdzie Jev uznaje 56 za podzielne przez 5 z ufnością 0,18–0,30.
I ran Jev through FizzBuzz 10,000 times. And it failed 77% of the time, and almost always on the exact same number. For whatever reason, Jev seems to really think that the number 56 is divisible by 5, and it does so with a confidence between 0.18-0.30. I have no idea what it
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
