Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev en System 1-modellen: een andere richting dan generatie
In deze thread stelt de auteur dat het probleem misschien niet in de tekstgeneratie zelf zit, en wijst hij op Jev van TypeSafe AI als voorbeeld van een System 1-model dat is ontworpen voor een andere taak.
1/ 🧵 We’ve spent years making LLMs better at generating text. But what if the problem was never generation in the first place? This is where System 1 models, like Jev from TypeSafe AI, get interesting. They’re designed for a different job.
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
