Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Побудова реранкера на Jev: калібрована впевненість як сигнал відсікання та гейтингу
Ділиться досвідом побудови реранкера на Jev: реальна ймовірність перетворює оцінку на сигнал відсікання та гейтингу, а не лише ранг, і обговорює розширення каліброваної впевненості на примітивні типи.
Extending calibrated confidence to primitive types is the natural next step -- we saw the same shape building a reranker on Jev: a real probability turns the score into a prune-and-gate signal, not just a rank.
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
