Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Kan Jev LLM's vervangen bij AI-besluitvorming?
De auteur benadrukt na het lezen over Jev dat Jev een invoer en vaste opties neemt en kansen teruggeeft, en vraagt zich af of elke AI-beslissing een LLM nodig heeft.
Recently I was reading about Jev, and one idea stood out. We use LLMs for generation, but many AI systems just need to make a decision. Give Jev an input + fixed choices, and it returns probabilities. It got me thinking: Do we really need an LLM for every AI decision?
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
