Back to explore

Integrare un server compatibile JEV in llama.cpp fa sì che qualsiasi modello si comporti come JEV

Uno sviluppatore mostra che integrare un server compatibile JEV in llama.cpp consente a qualsiasi modello di comportarsi come JEV senza modifiche; Qwen3.5-2B ha risposto a 4 domande su un'immagine 448x448 in 800 ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X