Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Рабочий паттерн с Jev: сначала классификация, потом генерация
Пользователь делится практикой с Jev: сначала классификация, потом генерация; тот же подход применён к отбору тредов Reddit и снизил стоимость пайплайна примерно в 30 раз; отмечено, что роутер теперь включает это.
this is the pattern that actually works with jev: classify first, generate second. we do the same thing one layer up for reddit threads (cited by ai / not cited / worth replying), and it cut our pipeline cost ~30x. nice to see it built into the router
· 1 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
