Jev jämfört med textgenererande modeller
Jev genererar inte fri text. En jämförelsevideo visar skillnaden mellan parallellt beslutsfattande och tokenvis textgenerering.
TypeSafe AI:s Jev: bedömning och sannolikhet utan generering
Författaren sammanfattar TypeSafe AI:s Jev-modell: den returnerar endast bedömningar och sannolikheter istället för att generera svarstext, och delar användningsscenarier.
自分も悩んでた「LLMに判断させるか、生成させるか」問題、ようやく整理できた気がする。 TypeSafe AIが出した「Jev」、回答文を一切生成せず判断と確率だけ返す設計が面白い。要点と、自分なら使う場面をまとめておく。 🧵 #AI実装ノウハウ
· 0 likesOpen on X
More like this
Prissättning, utvärderingar och namnet Jev
Lanseringstråden förklarar utvärderingar av code + AI arbetsflöden, det annonserade inputpriset och gratis outputtokens.
Jev-modell: sannolikhetsgenerering för beslutsfattande, 200× snabbare och 400× billigare än LLM:er
Denna modell är byggd för beslutsfattande snarare än textgenerering och producerar sannolikheter för varje alternativ parallellt istället för token-för-token-svar. Författaren delar ett förenklat exempel på vanliga LLM:er kontra denna Jev-modell.
