Back to explore

Mengintegrasikan server kompatibel JEV ke llama.cpp membuat model apa pun berperilaku seperti JEV

Seorang pengembang menunjukkan bahwa mengintegrasikan server kompatibel JEV ke llama.cpp membuat model apa pun berperilaku seperti JEV tanpa modifikasi; Qwen3.5-2B menjawab 4 pertanyaan tentang gambar 448x448 dalam 800ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X