Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Model Jev: od przewidywania następnego tokenu do przewidywania odpowiedzi
Model Jev przewiduje odpowiedzi bezpośrednio zamiast następnego tokenu, obsługując tylko trzy typy pytań: tak/nie, wybór jednego z maksymalnie 255 i niestandardową skalę od 2 do 10 poziomów.
okay, wtf is jev? in first principles, - normal LLMs predict the next token - jev predicts the answer three question types only. - yes/no - pick one of up to 255 - a scale you define, 2 to 10 levels follow for more #jev #typesafe
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
