Jev kontra modele generujące tekst
Jev nie generuje swobodnego tekstu. Film porównuje równoległe decyzje z generowaniem tekstu token po tokenie.
Jev wykonuje klasyfikację wielozadaniową w jednym przebiegu w przód i może zastąpić LLM do klasyfikacji semantycznej
Post interpretuje wyjście dekodera Jev: zamiast autoregresyjnego przewidywania następnego tokenu wykonuje klasyfikację wielozadaniową w jednym przebiegu w przód, dzięki czemu można go użyć do klasyfikacji semantycznej i bezpośrednio zastąpić istniejący LLM, umożliwiając semantyczne trasowanie informacji.
#Jev、デコーダーからの出力を、自己回帰的な次単語予測するんじゃなくて、単一フォワードパスでマルチタスク分類する、ってことで、「意味による分類」って用途で使われたLLMをそのまま置き換えるができると理解した。意味を通した情報のルーティング、ってことか。
· 1 likesOpen on X
More like this
Cennik, ewaluacje i nazwa Jev
Wątek premierowy wyjaśnia ewaluacje przepływów code + AI, ogłoszoną cenę wejścia i darmowe tokeny wyjściowe.
Model Jev: generowanie prawdopodobieństw do podejmowania decyzji, 200× szybszy i 400× tańszy niż LLM
Model ten jest stworzony do podejmowania decyzji, a nie generowania tekstu; generuje prawdopodobieństwa dla każdej opcji równolegle zamiast odpowiedzi token po tokenie. Autor dzieli się uproszczonym przykładem porównania zwykłych LLM z tym modelem Jev.
