Back to explore

Інтеграція Jev у MiniMax H3 для прискорення генерації відео

Автор інтегрував Jev у MiniMax H3, використовуючи Jev для розрідження обробки Attention, визначаючи важливість за шарами та вибираючи ступені розрідженості 1%, 3%, 5% і 10%, скоротивши час генерації відео на RTX4070 з 6 хв 7 с до 3 хв.

I integrated the popular Jev into MiniMax H3 to speed up video generation! Using Jev for sparsification of Attention processing. ・Jev determines importance per layer (4-step, targeting 49 layers) ・Jev selects sparsity rates of 1%, 3%, 5%, 10% On RTX4070, from 6 min 7 sec → 3

· 249 likesOpen on X