Back to explore

Integrar un servidor compatible con JEV en llama.cpp hace que cualquier modelo se comporte como JEV

Un desarrollador muestra que integrar un servidor compatible con JEV en llama.cpp permite que cualquier modelo se comporte como JEV sin modificaciones; Qwen3.5-2B respondió 4 preguntas sobre una imagen de 448x448 en 800 ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X