Back to explore

llama.cpp'ye JEV uyumlu sunucu entegre etmek her modelin JEV gibi davranmasını sağlar

Bir geliştirici, llama.cpp'ye JEV uyumlu sunucu entegre etmenin her modelin değişiklik olmadan JEV gibi davranmasını sağladığını gösterdi; Qwen3.5-2B 448x448 bir görüntüyle ilgili 4 soruyu 800ms'de yanıtladı.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X