Back to explore

Jev-Omni kör Chrome Dino lokalt på M4 Max

Erik Kokalj demonstrerar Jev-Omni, en 12B-beslutningsmodell (Gemma 4 finjusterad) konverterad till MLX 8-bit, som körs helt lokalt på M4 Max på ~100 ms. Den returnerar P(hoppa/duka/inget) för en vägsträcka och spelar Chrome Dino utan textgenerering.

Jev-Omni playing Chrome Dino, fully local on an M4 Max 🦖 12B decision model (Gemma 4 finetune) converted to MLX 8-bit, running on M4 Max at ~100 ms. No text generation, it just returns P(jump/duck/nothing) for a slice of road cropped ahead of the dino to cover latency scored

· 0 likesOpen on X