Back to explore

Jev-Omni가 M4 Max에서 Chrome Dino를 로컬로 실행

Erik Kokalj가 MLX 8-bit로 변환된 12B 결정 모델(Gemma 4 파인튠)을 M4 Max에서 완전히 로컬로 약 100ms로 실행하여, 텍스트 생성 없이 도로 슬라이스에 대해 P(점프/숙이기/무시)를 직접 출력해 Chrome Dino를 플레이하는 데모를 공개했습니다.

Jev-Omni playing Chrome Dino, fully local on an M4 Max 🦖 12B decision model (Gemma 4 finetune) converted to MLX 8-bit, running on M4 Max at ~100 ms. No text generation, it just returns P(jump/duck/nothing) for a slice of road cropped ahead of the dino to cover latency scored

· 0 likesOpen on X