Back to explore

Integrar um servidor compatível com JEV no llama.cpp faz qualquer modelo se comportar como JEV

Um desenvolvedor mostra que integrar um servidor compatível com JEV no llama.cpp permite que qualquer modelo se comporte como JEV sem modificações; o Qwen3.5-2B respondeu 4 perguntas sobre uma imagem 448x448 em 800 ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X