用 Jev 构建代码库分类器
开发者分享用 Jev 构建代码库分类器，认为这可能解决智能体生成过度工程化代码的问题，并询问下一步测试方向。
Simple Jev：将开放模型变为结构化决策接口
Simple Jev 复用共享上下文的 KV cache，只读取候选标签的下一 token logits，由服务端组装 choice、score 和真值判断，省去逐 token 解码与 JSON 生成。
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 次赞在 X 打开
更多类似内容
Jev 以 20–200 倍速度和 40–400 倍低成本实现 LLM 评判
Jev 被用于判断哪个模型是 AGI，速度提升 20–200 倍，成本降低 40–400 倍，可让 LLM-as-a-judge 变得极快且近乎免费。
使用 TypeSafe Jev 与 OpenCode 测试应用
Filip 分享了一个小演示，展示使用 TypeSafe Jev 和 OpenCode 测试应用的速度。
