Back to explore

Tích hợp máy chủ tương thích JEV vào llama.cpp giúp mọi mô hình hoạt động như JEV

Một nhà phát triển cho thấy tích hợp máy chủ tương thích JEV vào llama.cpp giúp mọi mô hình hoạt động như JEV mà không cần sửa đổi; Qwen3.5-2B trả lời 4 câu hỏi về ảnh 448x448 trong 800ms.

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X