Jev jämfört med textgenererande modeller
Jev genererar inte fri text. En jämförelsevideo visar skillnaden mellan parallellt beslutsfattande och tokenvis textgenerering.
Visuell förklaring av hur Jev fungerar, baserad på Qwen2.5-RLCD
Niels Rogge skapade med Claude en visuell förklaring av hur Jev fungerar, baserad på Qwen2.5-RLCD-modellen som Harsh Agundal släppte på Hugging Face, där autoregressiv LLM-generering ersätts av en enda Transformer-avkodare.
For anyone curious how Jev works, I made a visual explanation using @claudeai :) This is based on the Qwen2.5-RLCD model which @harshagundal released on @huggingface The idea is to replace autoregressive LLM generation by a single Transformer decoder (of a pre-trained LLM),
· 3,8 tn likesOpen on X
More like this
Prissättning, utvärderingar och namnet Jev
Lanseringstråden förklarar utvärderingar av code + AI arbetsflöden, det annonserade inputpriset och gratis outputtokens.
Jev-modell: sannolikhetsgenerering för beslutsfattande, 200× snabbare och 400× billigare än LLM:er
Denna modell är byggd för beslutsfattande snarare än textgenerering och producerar sannolikheter för varje alternativ parallellt istället för token-för-token-svar. Författaren delar ett förenklat exempel på vanliga LLM:er kontra denna Jev-modell.
