返回探索

本地421M模型Laya在速度上超越云端Jev

Laya 是一个开源 System 1 决策模型,可在本地运行,421M 参数,约 1GB 推理内存,每秒 86.5 次决策,P50 约 9ms,得分 46;对比 Jev 每秒 3.2 次决策,317ms API 往返,得分 1。

🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory

本地421M模型Laya在速度上超越云端Jev 1
· 0 次赞在 X 打开