Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Обговорення, чи використовує Jev механізм, схожий на RAG, і його точність
Автор цікавиться, наскільки точним був би Jev за використання механізму, схожого на RAG (хоч і не строго RAG), і ділиться посиланням на проєкт Jev.
I'm curious about how accurate it would be if Jev uses something like RAG (though apparently it's not exactly RAG). https://jev.kimura512.dev #Jev #TypeSafeAI
· 8 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
