Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Niedeterministyczne zachowanie JEV budzi wątpliwości co do twierdzenia o braku halucynacji
Użytkownik zauważa, że JEV daje niespójne prawdopodobieństwa dla identycznych promptów, a kolejność opcji drastycznie zmienia wyniki, kwestionując twierdzenie o braku halucynacji.
JEV actually doesn't even run deterministically Exact same prompts give you different probabilities when you run it multiple times The ORDER of the choices DRASTICALLY changes the output probs I am more and more confused by the their "no-hallucination" claim
· 1,1 tys. likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
