Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Автоматическая маршрутизация моделей с Jev: Jev классифицирует работу, но не выбирает модель
Описывает дизайн автоматической маршрутизации моделей Jev: в начале каждого хода Jev классифицирует работу (разговор, написание, программирование, анализ, извлечение) и выявляет вторичные требования, такие как использование инструментов и непрерывность, а выбор модели происходит отдельно.
We built Auto model routing with Jev, but Jev never chooses the model. That distinction is the whole design. At the start of each turn, Jev classifies the work: conversation, writing, coding, analysis or extraction. It also detects secondary requirements, tool usage, continuity
· 2 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
