Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Het patroon dat werkt met Jev: eerst classificeren, dan genereren
Een gebruiker deelt een praktijk met Jev: eerst classificeren, dan genereren, dezelfde aanpak toegepast op Reddit-threadselectie en verlaagde de pipelinekosten met ~30x, en meldt dat de router dit nu ingebouwd heeft.
this is the pattern that actually works with jev: classify first, generate second. we do the same thing one layer up for reddit threads (cited by ai / not cited / worth replying), and it cut our pipeline cost ~30x. nice to see it built into the router
· 1 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
