Back to explore

Att integrera en JEV-kompatibel server i llama.cpp gör att vilken modell som helst beter sig som JEV

En utvecklare visar att integrering av en JEV-kompatibel server i llama.cpp gör att vilken modell som helst beter sig som JEV utan ändringar; Qwen3.5-2B svarade på 4 frågor om en 448x448-bild på 800 ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X