Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Оценки уверенности Jev и гибридные решения System 1/System 2
Делится гибридным подходом: Jev используется для быстрых решений System 1, а его оценка уверенности позволяет при необходимости переключиться на более умную модель System 2.
I used this hybrid approach in the demo below. The useful part is that Jev gives us its confidence score, which is a good signal to handoff the task to a larger model if needed. You use Jev for quick and fast system 1 decisions and fall back to a more intelligent slower system 2
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
