Blog technique Jev et accès anticipé
La fin du fil de lancement de Diogo renvoie au blog technique officiel et au point d’entrée d’accès anticipé pour aller plus loin.
Mise à jour : le prochain checkpoint a effectivement atteint la parité de calibration Jev sur MMLU, et la quantification 8 bits semble bonne avec une empreinte locale estimée à ~30 Go.
Update: next checkpoint has effectively reached Jev calibration parity on MMLU! Also 8 bit quant is looking good and should fit in ~30gb memory locally!