Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Инференс System One от Jev работает локально на iPhone и Mac
В посте говорится, что популяризированный Jev инференс System One работает локально на iPhone или Mac через реализацию Core AI и подходит для повторяющихся решений на устройстве: определения реплик, требующих ответа, проверки вставок и валидации команд агентов.
System One inference, the kind Jev made popular, runs on an iPhone or a Mac (a Core AI implementation). It suits on-device use: telling which utterance needs a reply, checking a paste, vetting an agent's command are decisions made locally, many times over. https://github.com/john-rocky/coreai-kit/blob/main/docs/SYSTEM_ONE.md…
· 0 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
