Back to explore

دمج Jev في MiniMax H3 لتسريع توليد الفيديو

قام المؤلف بدمج Jev في MiniMax H3، باستخدام Jev لتخفيف معالجة الانتباه عبر تحديد الأهمية لكل طبقة واختيار معدلات تخفيف بنسبة 1% و3% و5% و10%، مما قلل وقت توليد الفيديو على RTX4070 من 6 دقائق و7 ثوانٍ إلى 3 دقائق.

I integrated the popular Jev into MiniMax H3 to speed up video generation! Using Jev for sparsification of Attention processing. ・Jev determines importance per layer (4-step, targeting 49 layers) ・Jev selects sparsity rates of 1%, 3%, 5%, 10% On RTX4070, from 6 min 7 sec → 3

· 249 likesOpen on X