Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
Jev's OpenAI-compatibele API en gewichtloos neuraal netwerkmechanisme
Introduceert Jev's OpenAI-compatibele chat-API, een gewichtloos neuraal netwerkmechanisme met opzoektabellen of integergeheugen, en 5,1 µs inferentie.
What the heck is this? Keep up with Jev or something ・OpenAI-compatible chat API ・Weightless Neural Network type mechanism that uses lookup tables or integer memory on RAM, instead of a massive number of floating-point parameters in a neural network ・5.1 µs inference?
· 11 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
