Back to explore

Calibração do Jev atinge paridade no MMLU; quantização de 8 bits cabe em ~30GB localmente

Atualização: o próximo checkpoint efetivamente alcançou paridade de calibração do Jev no MMLU, e a quantização de 8 bits parece boa com uso local estimado em ~30GB.

Update: next checkpoint has effectively reached Jev calibration parity on MMLU! Also 8 bit quant is looking good and should fit in ~30gb memory locally!

Calibração do Jev atinge paridade no MMLU; quantização de 8 bits cabe em ~30GB localmente 1
· 2 likesOpen on X