Jev jämfört med textgenererande modeller
Jev genererar inte fri text. En jämförelsevideo visar skillnaden mellan parallellt beslutsfattande och tokenvis textgenerering.
Jev och System 1-modeller: en annan riktning bortom generering
I denna tråd föreslår författaren att problemet kanske inte ligger i textgenereringen i sig, och lyfter fram Jev från TypeSafe AI som ett exempel på en System 1-modell designad för en annan uppgift.
1/ 🧵 We’ve spent years making LLMs better at generating text. But what if the problem was never generation in the first place? This is where System 1 models, like Jev from TypeSafe AI, get interesting. They’re designed for a different job.
· 0 likesOpen on X
More like this
Prissättning, utvärderingar och namnet Jev
Lanseringstråden förklarar utvärderingar av code + AI arbetsflöden, det annonserade inputpriset och gratis outputtokens.
Jev-modell: sannolikhetsgenerering för beslutsfattande, 200× snabbare och 400× billigare än LLM:er
Denna modell är byggd för beslutsfattande snarare än textgenerering och producerar sannolikheter för varje alternativ parallellt istället för token-för-token-svar. Författaren delar ett förenklat exempel på vanliga LLM:er kontra denna Jev-modell.
