Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev: geldige outputs definiëren vóór inferentie
Introduceert de aanpak van Jev om geldige outputs vóór inferentie te definiëren, in contrast met de gebruikelijke flow van tekst genereren, markdown verwijderen, JSON parsen en schema valideren.
JEV DELETES THE DUMBEST PART OF AI CODE. - Generate text. - Strip the markdown. - Parse the JSON. - Validate the schema. - Retry after the model adds a poem anyway. Jev starts from the opposite assumption: the valid outputs are defined before inference. State goes in. A typed
· 1 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
