Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Модель Jev: ШІ-агентам не потрібен LLM для кожного рішення
Автор ділиться висновками після знайомства з Jev від TypeSafe AI: рішення як маршрутизація запитів, виклик інструментів чи оцінка ризиків не завжди потребують LLM.
AI agents don't always need an LLM to make every decision That was my biggest takeaway after learning about Jev from TypeSafe AI We often use LLMs for tasks like: → Which team should this request go to? → Should this tool be called? → Is this action risky? → Which model
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
