Back to explore

Le modèle de décision Kev-0.6B de classe Jev exécute une passe avant sur l'Apple Neural Engine

Kev-0.6B est un modèle de décision de classe Jev exécuté sur l'Apple Neural Engine. Une passe avant, sans génération de tokens, 7,18 ms par décision avec un p99 de 7,53 ms. Le placement n'est pas encore affirmé ; il est mesuré de trois façons : le CPU seul renvoie des zéros et l'instrument Neural Engine d'xctrace d'Apple compte 303.

Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303

· 1 likesOpen on X