Back to explore

Jev-Omni roda Chrome Dino localmente no M4 Max

Erik Kokalj demonstra o Jev-Omni, um modelo de decisão de 12B (finetune de Gemma 4) convertido para MLX 8-bit, rodando totalmente local no M4 Max a ~100 ms. Ele retorna P(pular/agachar/nada) para uma fatia da estrada e joga Chrome Dino sem geração de texto.

Jev-Omni playing Chrome Dino, fully local on an M4 Max 🦖 12B decision model (Gemma 4 finetune) converted to MLX 8-bit, running on M4 Max at ~100 ms. No text generation, it just returns P(jump/duck/nothing) for a slice of road cropped ahead of the dino to cover latency scored

· 0 likesOpen on X