مستخدم يختبر قدرة Jev على توليد الصور
يسأل مستخدم Jev من @typesafeai عما إذا كان يمكنه توليد الصور، ويشارك صورة عباد الشمس التي أنتجها.
قام المؤلف بدمج Jev في MiniMax H3، باستخدام Jev لتخفيف معالجة الانتباه عبر تحديد الأهمية لكل طبقة واختيار معدلات تخفيف بنسبة 1% و3% و5% و10%، مما قلل وقت توليد الفيديو على RTX4070 من 6 دقائق و7 ثوانٍ إلى 3 دقائق.
I integrated the popular Jev into MiniMax H3 to speed up video generation! Using Jev for sparsification of Attention processing. ・Jev determines importance per layer (4-step, targeting 49 layers) ・Jev selects sparsity rates of 1%, 3%, 5%, 10% On RTX4070, from 6 min 7 sec → 3