Back to explore

Modelo de decisão Kev-0.6B da classe Jev executa uma passagem direta no Apple Neural Engine

Kev-0.6B é um modelo de decisão da classe Jev executado no Apple Neural Engine. Uma passagem direta, sem geração de tokens, 7,18 ms por decisão com p99 de 7,53 ms. A colocação ainda não é afirmada; é medida de três formas: somente CPU retorna zeros e o instrumento Neural Engine do xctrace da Apple conta 303.

Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303

· 1 likesOpen on X