Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Понимание Jev без технического жаргона: почему LLM кажутся медленными в приложениях
Нетехническое объяснение Jev: LLM часто кажутся медленными в приложениях, потому что разработчики заставляют их каждый раз «писать» ответ — как просить целый абзац, чтобы сказать «да».
Frankly I didn’t get this until today Here’s the non-technical friendly way to understand Jev: 👇🏼 Problem: LLMs often feel slow for a lot of app work because developers force it to “write” an answer every time Like asking someone to write a full paragraph just to say yes or
· 308 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
