Creare un classificatore di codebase con Jev
Uno sviluppatore condivide la creazione di un classificatore di codebase con Jev, suggerendo che può risolvere codice sovraingegnerizzato dagli agenti, e chiede cosa testare dopo.
Simple Jev: trasformare i modelli aperti in interfacce decisionali strutturate
Simple Jev riutilizza la cache KV del contesto condiviso, legge solo i logits del token successivo delle etichette candidate e assembla choice, score e giudizio di verità lato server, evitando la decodifica token per token e la generazione JSON.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev consente LLM-as-a-Judge a 20–200x più veloce e 40–400x meno costoso
Jev è stato usato per scegliere quale modello è AGI, offrendo 20–200x più velocità e 40–400x meno costo, rendendo LLM-as-a-judge estremamente veloce e quasi gratuito.
Testare app con TypeSafe Jev e OpenCode
Filip condivide una piccola demo che mostra la velocità di test delle app con TypeSafe Jev e OpenCode.
