返回探索

将 JEV 兼容服务器集成到 llama.cpp,任意模型可呈现 JEV 行为

开发者展示将 JEV 兼容服务器集成到 llama.cpp 后,无需修改模型即可呈现 JEV 行为;Qwen3.5-2B 在 800ms 内回答了关于一张 448x448 图像的 4 个问题。

Genius! If you integrate a JEV-compatible server into llama.cpp, any model can behave JEV-like without modifications! Qwen3.5-2B is answering 4 questions about an image in 800ms! The image is 448x448

· 588 次赞在 X 打开