Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Оцінки впевненості Jev і гібридні рішення System 1/System 2
Ділиться гібридним підходом, який використовує Jev для швидких рішень System 1 і його оцінку впевненості для переходу на розумнішу модель System 2 за потреби.
I used this hybrid approach in the demo below. The useful part is that Jev gives us its confidence score, which is a good signal to handoff the task to a larger model if needed. You use Jev for quick and fast system 1 decisions and fall back to a more intelligent slower system 2
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
