Back to explore

Kev-0.6B Jev-klass beslutsmodell kör en framåtpassning på Apple Neural Engine

Kev-0.6B är en beslutsmodell av Jev-klass som körs på Apple Neural Engine. En framåtpassning, ingen token-generering, 7,18 ms per beslut med p99 på 7,53 ms. Placeringen är ännu inte bekräftad; den mäts på tre sätt: endast CPU returnerar nollor och Apples xctrace Neural Engine-instrument räknar 303.

Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303

· 1 likesOpen on X