Back to explore

Qwen ve LFM Modellerini LoRA ile Jev'leştirme

Yazar, LoRA ile Qwen3.5-9B, Qwen3-VL-4B ve LFM2.5-VL-3B'yi Jev'leştirmeyi denedi; Qwen3.5-9B'nin doğruluğunun neredeyse Jev'e denk olduğunu, ancak yerel çıkarım gecikmesinin token uzunluğuna göre değiştiğini, Jev API'nin sabit 300ms'inden farklı olduğunu belirtti.

I've tried Jev-ifying Qwen3.5-9B, Qwen3-VL-4B, and LFM2.5-VL-3B using LoRA 1. In terms of scores, Qwen3.5-9B achieves accuracy that's almost on par with Jev. 2. Compared to the stable 300ms of Jev API, locally there's a huge difference depending on token length (BF16) 3. In image

Qwen ve LFM Modellerini LoRA ile Jev'leştirme 1Qwen ve LFM Modellerini LoRA ile Jev'leştirme 2Qwen ve LFM Modellerini LoRA ile Jev'leştirme 3Qwen ve LFM Modellerini LoRA ile Jev'leştirme 4
· 0 likesOpen on X