Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
TypeSafe Jev: стан і типізовані питання на вході, вибір, оцінка та ймовірність на виході
TinyRouter представляє модель Jev від TypeSafe: стан і типізовані питання на вході, вибір, оцінка або ймовірність на виході, без розбору тексту. Приклад виклику повертає choice=billing (p=0.71) і score 0.8 через POST /v1/systemone, з контекстом 32K і безкоштовним виводом.
Text was never the hard part. Parsing it was. Jev by TypeSafe: state + typed questions in, choice/score/probability out — no prose to parse. Real call → choice=billing (p=0.71), score 0.8. POST /v1/systemone, 32K ctx, output free. #Jev #TypeSafe #DecisionModels
· 0 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
