Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Недетермінована поведінка JEV викликає сумніви щодо заяви про відсутність галюцинацій
Користувач зазначає, що JEV видає неузгоджені ймовірності для однакових промптів, а порядок варіантів різко змінює результати, ставлячи під сумнів заяву про відсутність галюцинацій.
JEV actually doesn't even run deterministically Exact same prompts give you different probabilities when you run it multiple times The ORDER of the choices DRASTICALLY changes the output probs I am more and more confused by the their "no-hallucination" claim
· 1,1 тис. likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
