Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev van TypeSafe AI: beslissingen als ja/nee, keuze of score in plaats van tekst
Introduceert het Jev-model van TypeSafe AI: het genereert geen woorden, maar retourneert ja/nee, een keuze of een score met waarschijnlijkheden in 70–500 ms voor $0,042 per miljoen.
Most LLM calls inside agents are decisions dressed up as text. The industry decided that intelligence has to speak in full sentences. Jev from TypeSafe AI generates zero words. It returns a yes/no, a choice or a score with probabilities in 70 to 500 ms, at $0.042 per million
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
