Создание классификатора кодовой базы с помощью Jev
Разработчик делится созданием классификатора кодовой базы с помощью Jev, предполагая, что это может решить проблему переусложнённого кода от агентов, и спрашивает, что тестировать дальше.
Разработчик показал, что интеграция JEV-совместимого сервера в llama.cpp позволяет любой модели вести себя как JEV без изменений; Qwen3.5-2B ответил на 4 вопроса об изображении 448x448 за 800 мс.
Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448