Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Jev оценивает решения за один проход вместо генерации по токенам
Карл Вайнмайстер отмечает, что генеративный ИИ заменил классификаторы промптом, но Jev от TypeSafe AI возвращает классификатор: вместо генерации текста по токенам он оценивает решения за один проход, что подходит для случаев, где нужен просто умный if.
Generative AI replaced classifiers with a prompt. This week, the classifier came back with a vengeance in Jev from @typesafeai. Instead of generating text token by token, it scores decisions in a single pass. Sometimes you just need a smart if statement.
· 4 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
