Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Jev: определение допустимых выходов до инференса
Представляет подход Jev к определению допустимых выходов до инференса в противовес обычному процессу генерации текста, удаления markdown, парсинга JSON и валидации схемы.
JEV DELETES THE DUMBEST PART OF AI CODE. - Generate text. - Strip the markdown. - Parse the JSON. - Validate the schema. - Retry after the model adds a poem anyway. Jev starts from the opposite assumption: the valid outputs are defined before inference. State goes in. A typed
· 1 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
