Back to explore

เปิดตัว Visual Edition Jev: การปรับใช้มัลติโมดัลในเครื่องแบบ 4-bit quantized

เปิดตัว Visual Edition Jev: จับคู่ผลลัพธ์ตัวเลือกกับป้ายกำกับคงที่ตามไอเดียของชุมชน สุ่มตัวอย่างโดยตรงหลัง prefill จำกัดโทเค็นเอาต์พุต และทำงานลื่นไหลในเครื่องบน 16G M4 MacBook Pro ด้วย qwen-3.5-0.8B มัลติโมดัลแบบ 4-bit quantized

Visual Edition Jev is Here https://github.com/hr98w/jev-visual… Following the community's ideas, mapping candidate results to fixed labels, direct sampling after prefill, limiting output tokens, using multimodal qwen-3.5-0.8B 4bit quantized deployment locally, running smoothly on 16g m4 mbp

· 303 likesOpen on X