用 Jev 构建代码库分类器
开发者分享用 Jev 构建代码库分类器,认为这可能解决智能体生成过度工程化代码的问题,并询问下一步测试方向。
Laya 是一个开源 System 1 决策模型,可在本地运行,421M 参数,约 1GB 推理内存,每秒 86.5 次决策,P50 约 9ms,得分 46;对比 Jev 每秒 3.2 次决策,317ms API 往返,得分 1。
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory