Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
200× faster and 400× cheaper than llms this model is made for “decision-making” instead of text generation, so it generates probabilities for each option in parallel instead of giving you a response token by token here is a simplified example of normal llms vs this jev thing at
· 5,7 тыс. likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev достигает $42 за миллиард токенов благодаря параллельным вычислениям
В посте утверждается, что Jev использует нетрансформерные параллельные вычисления стоимостью $42 за миллиард токенов, обсуждается возможное влияние на ChatGPT и Anthropic, а также переход к LLM как интерфейсу с harness-бэкендом.
