Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Пошаговая генерация предложений с вероятностями Jev
В посте объясняется, что если поместить Jev в цикл и пошагово выбирать наиболее вероятное слово, можно генерировать предложения, и отмечается возможность сэмплирования из слов с высокой вероятностью.
Did you know that, if you put jev in a loop, and simply select the most likely word over a vocab space step by step, you can make jev generate sentences? Since jev returns probabilities, you can actually get quite a few words with high probabilities, and if you sample from those
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
