Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev nie jest modelem do porównywania wydajności: jego mocne strony to szybkość, koszt i ustrukturyzowane wyjście
Post twierdzi, że Jev nie służy do czystych porównań wydajności; jego mocne strony to umiarkowane osądy, bardzo wysoka szybkość, niski koszt i ustrukturyzowane wyjście, dlatego często przegrywa w bezpośrednich starciach wydajności.
Jevってそもそもそういう比較するモデルじゃなくね あれはそこそこの判断力で圧倒的ハイスピード低コストで構造化出力が強みなのでシンプルに性能勝負やらせたらたいてい負けると思う
· 0 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
