Jev против моделей генерации текста
Jev не генерирует свободный текст. Сравнительное видео показывает различие между параллельным принятием решений и генерацией текста по токенам.
Изменяемые модели и живая замена LoRA-адаптеров для моделей класса Jev
Автор продолжает работу над изменяемыми моделями и живой заменой LoRA-адаптеров для моделей класса Jev (Kev), обсуждая взаимодействие между изменяемой моделью на ANE (Kev) и LLM, размещённой на GPU (Qwen 3.8 27B-Splash).
Continuing my work with mutable models + live LoRA adapter swapping applied to Jev-class (Kev) model. The following talks through the current use case and interaction between the mutable model on ANE (Kev) and the GPU resident LLM (Qwen 3.8 27B-Splash). --- The model writes
· 2 likesOpen on X
More like this
Цены, оценки и происхождение названия Jev
Тред запуска объясняет оценки рабочих процессов code + AI, объявленную цену входных токенов и бесплатные выходные токены.
Модель Jev: генерация вероятностей для принятия решений, в 200 раз быстрее и в 400 раз дешевле LLM
Эта модель создана для принятия решений, а не генерации текста: она выдаёт вероятности для каждого варианта параллельно, а не ответ токен за токеном. Автор приводит упрощённый пример сравнения обычных LLM с этой моделью Jev.
