Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev: AI, które nie pisze, zwraca tylko prawdopodobieństwa klasyfikacji
Jev nie generuje odpowiedzi tekstowych; zwraca jedynie pilność, kategorię i prawdopodobieństwo, w tempie 0,2 sekundy na element. Podział jednego pytania na pięć mniejszych zwiększył dokładność z 62,6% do 95,0%.
文章を書かないAIが出ました。Jevというやつです。 質問に言葉で答えず、急ぎかどうか、どの分類か、その確率だけを返す。書かないから速くて、1件0.2秒。 面白いのはここからで、1問でざっくり聞くと精度62.6%。同じデータを5つの小さな問いに割ったら95.0%まで上がりました。
· 6 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
