Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Справжня сила Jev: масове повернення векторів відповідей
У дописі зазначено, що Jev — не просто класифікатор, а може повертати вектори відповідей одразу, оцінюючи до 255 пар значень для однієї події, що значно скорочує кількість запитів.
הטריק האמיתי: החוזקה האמיתית של Jev היא לא רק שהוא classifier, אלא היכולת שלו להחזיר וקטור תשובות בבת אחת. כלומר - אני יכולה לקחת ערך, ולשאול בבת אחת עבור כל שאר הערכים - מה ההסתברות שמייצגים את אותו האירוע. ואז במכה לקבל תשובה עבור עד 255 זוגות. מקצר את כמות השאילתות בצורה
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
