Een codebase-classificator bouwen met Jev
Een ontwikkelaar deelt het bouwen van een codebase-classificator met Jev, suggereert dat dit overgeëngineerde code van agents kan oplossen, en vraagt wat er nu getest moet worden.
Simple Jev: open modellen omzetten in gestructureerde beslissingsinterfaces
Simple Jev hergebruikt de KV-cache van gedeelde context, leest alleen de next-token logits van kandidaatlabels en stelt choice, score en waarheidsoordeel server-side samen, zonder token-voor-token decodering en JSON-generatie.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev maakt LLM-as-a-Judge 20–200x sneller en 40–400x goedkoper
Jev werd gebruikt om te bepalen welk model AGI is, met 20–200x snelheid en 40–400x lagere kosten, waardoor LLM-as-a-judge extreem snel en bijna gratis wordt.
Apps testen met TypeSafe Jev & OpenCode
Filip deelt een kleine demo die laat zien hoe snel apps testen met TypeSafe Jev en OpenCode kan zijn.
