Back to explore

Jev-Omni chạy Chrome Dino cục bộ trên M4 Max

Erik Kokalj trình diễn Jev-Omni, mô hình quyết định 12B (fine-tune Gemma 4) được chuyển đổi sang MLX 8-bit, chạy hoàn toàn cục bộ trên M4 Max với ~100 ms. Mô hình trả về P(nhảy/cúi xuống/không làm gì) cho một đoạn đường để chơi Chrome Dino mà không tạo văn bản.

Jev-Omni playing Chrome Dino, fully local on an M4 Max 🦖 12B decision model (Gemma 4 finetune) converted to MLX 8-bit, running on M4 Max at ~100 ms. No text generation, it just returns P(jump/duck/nothing) for a slice of road cropped ahead of the dino to cover latency scored

· 0 likesOpen on X