返回探索

Kev-0.6B Jev 级决策模型在 Apple 神经引擎上的单次前向传播实测

Kev-0.6B 是 Jev 级决策模型,在 Apple 神经引擎上运行,单次前向传播无需生成 token,每次决策 7.18 毫秒,p99 为 7.53 毫秒。放置位置尚未断言,通过三种方式测量:仅 CPU 返回零,Apple xctrace 神经引擎工具计数为 303。

Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303

· 1 次赞在 X 打开