Back to explore

Jev-іфікація моделей Qwen і LFM за допомогою LoRA

Автор спробував Jev-іфікувати Qwen3.5-9B, Qwen3-VL-4B і LFM2.5-VL-3B за допомогою LoRA, зазначивши, що точність Qwen3.5-9B майже відповідає Jev, але затримка локального виведення змінюється залежно від довжини токена, на відміну від стабільних 300 мс Jev API.

I've tried Jev-ifying Qwen3.5-9B, Qwen3-VL-4B, and LFM2.5-VL-3B using LoRA 1. In terms of scores, Qwen3.5-9B achieves accuracy that's almost on par with Jev. 2. Compared to the stable 300ms of Jev API, locally there's a huge difference depending on token length (BF16) 3. In image

Jev-іфікація моделей Qwen і LFM за допомогою LoRA 1Jev-іфікація моделей Qwen і LFM за допомогою LoRA 2Jev-іфікація моделей Qwen і LFM за допомогою LoRA 3Jev-іфікація моделей Qwen і LFM за допомогою LoRA 4
· 0 likesOpen on X