用 Jev 构建代码库分类器
开发者分享用 Jev 构建代码库分类器，认为这可能解决智能体生成过度工程化代码的问题，并询问下一步测试方向。
Jev 分类器获开发者称赞，可用于多模型推理路由
开发者 Chris Dukes 表示 TypeSafe 的 Jev 分类器效果很好，适合在推理时路由到多个同时服务的模型，但受限于 8GB 显存。
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 次赞在 X 打开
更多类似内容
Jev 以 20–200 倍速度和 40–400 倍低成本实现 LLM 评判
Jev 被用于判断哪个模型是 AGI，速度提升 20–200 倍，成本降低 40–400 倍，可让 LLM-as-a-judge 变得极快且近乎免费。
使用 TypeSafe Jev 与 OpenCode 测试应用
Filip 分享了一个小演示，展示使用 TypeSafe Jev 和 OpenCode 测试应用的速度。
