Back to explore

Jev-kalibrering når paritet på MMLU; 8-bitars kvantisering ryms i ~30GB lokalt

Uppdatering: nästa checkpoint har effektivt nått Jev-kalibreringsparitet på MMLU, och 8-bitars kvantisering ser bra ut med förväntat lokalt minne på ~30GB.

Update: next checkpoint has effectively reached Jev calibration parity on MMLU! Also 8 bit quant is looking good and should fit in ~30gb memory locally!

Jev-kalibrering når paritet på MMLU; 8-bitars kvantisering ryms i ~30GB lokalt 1
· 2 likesOpen on X