Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Jev от TypeSafeAI сжимает контекст без суммаризации
В посте хвалят Jev от TypeSafeAI за сжатие контекста путём фильтрации истории по оценкам вместо суммаризации, что сокращает 156 000 токенов до 62 000 за один раз, и выражают надежду, что Claude Code и Codex внедрят этот подход.
This usage is really great. I hope it's implemented in Claude Code and Codex. > Claude Code's context compression, without summarization, reduces 156,000 to 62,000 tokens in one shot. TypeSafeAI's "Jev" The idea of filtering history by scores without summarizing is great
· 399 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
