Back to explore

Jev 캘리브레이션이 MMLU에서 동등 수준 도달, 8비트 양자화는 약 30GB로 로컬 실행

업데이트: 다음 체크포인트가 MMLU에서 Jev 캘리브레이션과 사실상 동등 수준에 도달했으며, 8비트 양자화도 양호해 약 30GB 메모리로 로컬 실행이 가능할 전망입니다.

Update: next checkpoint has effectively reached Jev calibration parity on MMLU! Also 8 bit quant is looking good and should fit in ~30gb memory locally!

Jev 캘리브레이션이 MMLU에서 동등 수준 도달, 8비트 양자화는 약 30GB로 로컬 실행 1
· 2 likesOpen on X