Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev: визначення допустимих виходів до інференсу
Представляє підхід Jev до визначення допустимих виходів до інференсу на противагу звичайному процесу генерації тексту, видалення markdown, парсингу JSON і валідації схеми.
JEV DELETES THE DUMBEST PART OF AI CODE. - Generate text. - Strip the markdown. - Parse the JSON. - Validate the schema. - Retry after the model adds a poem anyway. Jev starts from the opposite assumption: the valid outputs are defined before inference. State goes in. A typed
· 1 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
