Back to explore

Modelo de decisión Kev-0.6B de clase Jev ejecuta una pasada hacia adelante en el Apple Neural Engine

Kev-0.6B es un modelo de decisión de clase Jev que se ejecuta en el Apple Neural Engine. Una pasada hacia adelante, sin generación de tokens, 7,18 ms por decisión con p99 de 7,53 ms. La ubicación aún no se afirma; se mide de tres formas: solo CPU devuelve ceros y el instrumento Neural Engine de xctrace de Apple cuenta 303.

Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303

· 1 likesOpen on X