Back to explore

Integrering av Jev i MiniMax H3 för att snabba upp videogenerering

Författaren integrerade Jev i MiniMax H3 och använde Jev för att glesa ut Attention-bearbetningen genom att bestämma viktighet per lager och välja gleshetsgrader på 1 %, 3 %, 5 % och 10 %, vilket minskade videogenereringstiden på en RTX4070 från 6 min 7 s till 3 min.

I integrated the popular Jev into MiniMax H3 to speed up video generation! Using Jev for sparsification of Attention processing. ・Jev determines importance per layer (4-step, targeting 49 layers) ・Jev selects sparsity rates of 1%, 3%, 5%, 10% On RTX4070, from 6 min 7 sec → 3

· 249 likesOpen on X