Back to explore

JevをMiniMax H3に統合し動画生成を高速化

投稿者はJevをMiniMax H3に統合し、JevでAttention処理をスパース化。層ごとに重要度を判定し、1%、3%、5%、10%のスパース率を選択することで、RTX4070での動画生成時間を6分7秒から3分に短縮した。

I integrated the popular Jev into MiniMax H3 to speed up video generation! Using Jev for sparsification of Attention processing. ・Jev determines importance per layer (4-step, targeting 49 layers) ・Jev selects sparsity rates of 1%, 3%, 5%, 10% On RTX4070, from 6 min 7 sec → 3

· 249 likesOpen on X