Jev jämfört med textgenererande modeller
Jev genererar inte fri text. En jämförelsevideo visar skillnaden mellan parallellt beslutsfattande och tokenvis textgenerering.
Jev utför multitask-klassificering i en enda framåtpassning och kan ersätta LLM:er för semantisk klassificering
Inlägget tolkar Jevs dekoderutdata: i stället för autoregressiv förutsägelse av nästa token utför den multitask-klassificering i en enda framåtpassning, så den kan användas för semantisk klassificering och direkt ersätta en befintlig LLM, vilket möjliggör semantisk informationsdirigering.
#Jev、デコーダーからの出力を、自己回帰的な次単語予測するんじゃなくて、単一フォワードパスでマルチタスク分類する、ってことで、「意味による分類」って用途で使われたLLMをそのまま置き換えるができると理解した。意味を通した情報のルーティング、ってことか。
· 1 likesOpen on X
More like this
Prissättning, utvärderingar och namnet Jev
Lanseringstråden förklarar utvärderingar av code + AI arbetsflöden, det annonserade inputpriset och gratis outputtokens.
Jev-modell: sannolikhetsgenerering för beslutsfattande, 200× snabbare och 400× billigare än LLM:er
Denna modell är byggd för beslutsfattande snarare än textgenerering och producerar sannolikheter för varje alternativ parallellt istället för token-för-token-svar. Författaren delar ett förenklat exempel på vanliga LLM:er kontra denna Jev-modell.
