Back to explore

Интеграция JEV-совместимого сервера в llama.cpp позволяет любой модели вести себя как JEV

Разработчик показал, что интеграция JEV-совместимого сервера в llama.cpp позволяет любой модели вести себя как JEV без изменений; Qwen3.5-2B ответил на 4 вопроса об изображении 448x448 за 800 мс.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X