Back to explore

JEV互換サーバーをllama.cppに統合、任意のモデルがJEV的に動作

開発者は、JEV互換サーバーをllama.cppに統合することでモデルを変更せずにJEV的に動作させられることを示した。Qwen3.5-2Bは448x448の画像に関する4つの質問に800msで回答した。

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 likesOpen on X