Jev tegenover tekstgenererende modellen
Jev genereert geen vrije tekst. Een video vergelijkt parallel beslissen met token voor token tekstgeneratie.
De echte kracht van Jev: antwoordvectoren in bulk retourneren
De post merkt op dat Jev niet alleen een classifier is, maar antwoordvectoren in één keer kan retourneren, tot 255 waardeparen voor dezelfde gebeurtenis kan evalueren, waardoor het aantal queries sterk afneemt.
הטריק האמיתי: החוזקה האמיתית של Jev היא לא רק שהוא classifier, אלא היכולת שלו להחזיר וקטור תשובות בבת אחת. כלומר - אני יכולה לקחת ערך, ולשאול בבת אחת עבור כל שאר הערכים - מה ההסתברות שמייצגים את אותו האירוע. ואז במכה לקבל תשובה עבור עד 255 זוגות. מקצר את כמות השאילתות בצורה
· 0 likesOpen on X
More like this
Prijs, evaluaties en de naam Jev
De launchthread legt code plus AI workflow evaluaties uit, de aangekondigde invoerprijs en gratis outputtokens.
Jev-model: waarschijnlijkheidsgeneratie voor besluitvorming, 200× sneller en 400× goedkoper dan LLM's
Dit model is gemaakt voor besluitvorming in plaats van tekstgeneratie en genereert waarschijnlijkheden voor elke optie parallel in plaats van token voor token antwoorden. De auteur deelt een vereenvoudigd voorbeeld van normale LLM's versus dit Jev-model.
