Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Опыт использования API модели Jev от TypeSafe AI
Автор пробует недавно популярную модель Jev от TypeSafe AI и находит её простой в использовании; с точки зрения API она предоставляет подробный контекст (состояние), а затем задаёт несколько вопросов с соответствующими вариантами.
I took a look at the jev model from typesafeai, which has been super popular these past couple of days, and surprisingly, it's so easy to use (see pic). From the API perspective, it just provides detailed context (state), then gives it a few questions with corresponding options,
· 295 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
