Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Чи може Jev замінити LLM у прийнятті рішень ШІ?
Автор, прочитавши про Jev, зазначає, що Jev приймає вхідні дані та фіксовані варіанти й повертає ймовірності, ставлячи питання, чи потрібна LLM для кожного рішення ШІ.
Recently I was reading about Jev, and one idea stood out. We use LLMs for generation, but many AI systems just need to make a decision. Give Jev an input + fixed choices, and it returns probabilities. It got me thinking: Do we really need an LLM for every AI decision?
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
