Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev Engineering: redeneren scheiden van besluitvorming voor snelheid en kosten
Legt uit hoe Jev Engineering redeneren scheidt van besluitvorming, het dure model uit elke beslissingslus haalt en verzoeken routeert via het goedkoopste capabele model, tot 193x sneller en 444x goedkoper in tests.
Jev Engineering separates reasoning from decision-making, moves the expensive model out of every decision loop and routes requests through the cheapest capable model instead, running up to 193x faster and 444x cheaper in tests.
· 46 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
