Jev проти моделей генерації тексту
Jev не генерує довільний текст. Порівняльне відео показує різницю між паралельним ухваленням рішень і генерацією тексту токен за токеном.
Автоматична маршрутизація моделей із Jev: Jev класифікує роботу, але не обирає модель
Описує дизайн автоматичної маршрутизації моделей Jev: на початку кожного ходу Jev класифікує роботу (розмова, написання, програмування, аналіз, вилучення) і виявляє другорядні вимоги, як-от використання інструментів і безперервність, тоді як вибір моделі відбувається окремо.
We built Auto model routing with Jev, but Jev never chooses the model. That distinction is the whole design. At the start of each turn, Jev classifies the work: conversation, writing, coding, analysis or extraction. It also detects secondary requirements, tool usage, continuity
· 2 likesOpen on X
More like this
Ціни, оцінювання і походження назви Jev
Тред запуску пояснює оцінки робочих процесів code + AI, оголошену ціну вхідних токенів і безкоштовні вихідні токени.
Модель Jev: генерація ймовірностей для прийняття рішень, у 200 разів швидша та в 400 разів дешевша за LLM
Ця модель створена для прийняття рішень, а не генерації тексту: вона видає ймовірності для кожного варіанту паралельно, а не відповідь токен за токеном. Автор наводить спрощене порівняння звичайних LLM із цією моделлю Jev.
