Back to explore

การทำ Jev-ify โมเดล Qwen และ LFM ด้วย LoRA

ผู้เขียนลองทำ Jev-ify Qwen3.5-9B, Qwen3-VL-4B และ LFM2.5-VL-3B ด้วย LoRA โดยระบุว่าความแม่นยำของ Qwen3.5-9B เกือบเทียบเท่า Jev แต่ความหน่วงในการอนุมานภายในเครื่องแปรตามความยาวโทเคน ต่างจาก 300ms ที่เสถียรของ Jev API

I've tried Jev-ifying Qwen3.5-9B, Qwen3-VL-4B, and LFM2.5-VL-3B using LoRA 1. In terms of scores, Qwen3.5-9B achieves accuracy that's almost on par with Jev. 2. Compared to the stable 300ms of Jev API, locally there's a huge difference depending on token length (BF16) 3. In image

การทำ Jev-ify โมเดล Qwen และ LFM ด้วย LoRA 1การทำ Jev-ify โมเดล Qwen และ LFM ด้วย LoRA 2การทำ Jev-ify โมเดล Qwen และ LFM ด้วย LoRA 3การทำ Jev-ify โมเดล Qwen และ LFM ด้วย LoRA 4
· 0 likesOpen on X