Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
200× faster and 400× cheaper than llms this model is made for “decision-making” instead of text generation, so it generates probabilities for each option in parallel instead of giving you a response token by token here is a simplified example of normal llms vs this jev thing at
· 5,7K likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model bereikt $42 per miljard tokens via parallelle berekening
Het bericht stelt dat Jev niet-transformer parallelle berekening gebruikt tegen $42 per miljard tokens, bespreekt de mogelijke impact op ChatGPT en Anthropic en suggereert een verschuiving naar LLM's als interface met een harness-backend.
