Back to explore

Sortie de Visual Edition Jev : déploiement local multimodal quantifié en 4 bits

Sortie de Visual Edition Jev : mappage des résultats candidats vers des étiquettes fixes selon les idées de la communauté, échantillonnage direct après prefill, limitation des tokens de sortie, et exécution fluide sur un MacBook Pro M4 16G avec qwen-3.5-0.8B multimodal quantifié en 4 bits.

Visual Edition Jev is Here https://github.com/hr98w/jev-visual… Following the community's ideas, mapping candidate results to fixed labels, direct sampling after prefill, limiting output tokens, using multimodal qwen-3.5-0.8B 4bit quantized deployment locally, running smoothly on 16g m4 mbp

· 303 likesOpen on X