Back to explore

LoRA로 Qwen 및 LFM 모델 Jev화

작성자는 LoRA로 Qwen3.5-9B, Qwen3-VL-4B, LFM2.5-VL-3B를 Jev화했습니다. Qwen3.5-9B의 정확도는 Jev와 거의 동등하지만, 로컬 추론 지연은 토큰 길이에 따라 크게 달라져 Jev API의 안정적인 300ms와 차이가 있습니다.

I've tried Jev-ifying Qwen3.5-9B, Qwen3-VL-4B, and LFM2.5-VL-3B using LoRA 1. In terms of scores, Qwen3.5-9B achieves accuracy that's almost on par with Jev. 2. Compared to the stable 300ms of Jev API, locally there's a huge difference depending on token length (BF16) 3. In image

LoRA로 Qwen 및 LFM 모델 Jev화 1LoRA로 Qwen 및 LFM 모델 Jev화 2LoRA로 Qwen 및 LFM 모델 Jev화 3LoRA로 Qwen 및 LFM 모델 Jev화 4
· 0 likesOpen on X