返回探索

Jev 校准在 MMLU 上达到持平,8 位量化约 30GB 本地可运行

更新:下一个检查点在 MMLU 上基本达到 Jev 校准持平,8 位量化表现良好,预计可在约 30GB 内存中本地运行。

Update: next checkpoint has effectively reached Jev calibration parity on MMLU! Also 8 bit quant is looking good and should fit in ~30gb memory locally!

Jev 校准在 MMLU 上达到持平,8 位量化约 30GB 本地可运行 1
· 2 次赞在 X 打开