Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Het goedkeuringsbeleid van Jev als prompt: oordelen tijdens inferentie
Legt uit dat Jev tijdens inferentie het goedkeuringsbeleid, de beschrijving en de aangeroepen parameters van een tool ontvangt en een oordeel retourneert; goedgekeurde aanroepen starten direct en geweigerde aanroepen draaien na codegen zoals normale PTC.
The approval policy is a prompt. Jev is provided the tool's approval policy, along with its tool description and invoked params at inference-time and returns a verdict. Approved calls start immediately and denied calls run once the codegen is complete just like normal PTC.
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
