Back to explore

Jev-Omni запускает Chrome Dino локально на M4 Max

Эрик Кокалдж демонстрирует Jev-Omni, модель принятия решений 12B (дообученная Gemma 4), конвертированную в MLX 8-bit, работающую полностью локально на M4 Max с ~100 мс. Модель выводит P(прыжок/пригнуться/ничего) для среза дороги и играет в Chrome Dino без генерации текста.

Jev-Omni playing Chrome Dino, fully local on an M4 Max 🦖 12B decision model (Gemma 4 finetune) converted to MLX 8-bit, running on M4 Max at ~100 ms. No text generation, it just returns P(jump/duck/nothing) for a slice of road cropped ahead of the dino to cover latency scored

· 0 likesOpen on X