Developer resources · おののき＠意識を低く持て！

LoRAでQwenとLFMモデルをJev化

著者はLoRAでQwen3.5-9B、Qwen3-VL-4B、LFM2.5-VL-3BをJev化。Qwen3.5-9Bの精度はJevとほぼ同等だが、ローカル推論はトークン長で遅延が大きく変動し、Jev APIの安定した300msと差があると述べている。

おののき＠意識を低く持て！@tjm8874𝕏

I've tried Jev-ifying Qwen3.5-9B, Qwen3-VL-4B, and LFM2.5-VL-3B using LoRA 1. In terms of scores, Qwen3.5-9B achieves accuracy that's almost on par with Jev. 2. Compared to the stable 300ms of Jev API, locally there's a huge difference depending on token length (BF16) 3. In image