Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Jev от TypeSafe AI: решения в виде да/нет, выбора или оценки вместо текста
Представляет модель Jev от TypeSafe AI: она не генерирует слова, а возвращает да/нет, выбор или оценку с вероятностями за 70–500 мс по цене $0,042 за миллион.
Most LLM calls inside agents are decisions dressed up as text. The industry decided that intelligence has to speak in full sentences. Jev from TypeSafe AI generates zero words. It returns a yes/no, a choice or a score with probabilities in 70 to 500 ms, at $0.042 per million
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
