Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Досліджуємо Jev: модель System One від TypeSafe, яка не генерує текст
Автор детально розглядає модель Jev від TypeSafe. Як модель System One, вона повністю відмовляється від генерації тексту: отримує стан застосунку та запитання, а повертає типізовані рішення та ймовірності, що принципово виключає галюцинації.
היום אני בוחן לעומק את Jev – המודל החדש של TypeSafe מסוג "System One", שמוותר לחלוטין על יצירת טקסט. מספקים לו את מצב האפליקציה (app state) ושאלה, והוא מחזיר החלטות מוגדרות-טיפוס (typed decisions) והסתברויות, במקום טקסט חופשי. הוא פשוט לא מסוגל לבצע "הזיות" (hallucinations),
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
