Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Jev від TypeSafeAI стискає контекст без підсумовування
Допис хвалить Jev від TypeSafeAI за стиснення контексту шляхом фільтрації історії за оцінками замість підсумовування, що скорочує 156 000 токенів до 62 000 за один раз, і сподівається, що Claude Code та Codex впровадять цей підхід.
This usage is really great. I hope it's implemented in Claude Code and Codex. > Claude Code's context compression, without summarization, reduces 156,000 to 62,000 tokens in one shot. TypeSafeAI's "Jev" The idea of filtering history by scores without summarizing is great
· 399 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
