Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev в ієрархії рішень: невелика обмежена класифікація та маршрутизація
Автор ділиться ієрархією рішень: детерміновані задачі — код, невелика обмежена класифікація, маршрутизація, оцінювання чи нечіткі рішення — Jev, а генерація, виконання завдань або помірне міркування — дешева API-модель.
My current hierarchy is becoming: Deterministic problem? -> Write code. Small, bounded classification, routing, scoring, or fuzzy decision? -> Use something like Jev. Generation, task completion, or moderate reasoning? -> Use a cheap API model like Luna or DeepSeek Flash.
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
