Bygga en kodbas-klassificerare med Jev
En utvecklare delar bygget av en kodbas-klassificerare med Jev, föreslår att det kan lösa överkonstruerad kod från agenter, och frågar vad som ska testas härnäst.
Simple Jev: omvandla öppna modeller till strukturerade beslutsgränssnitt
Simple Jev återanvänder KV-cache för delad kontext, läser endast nästa-token-logits för kandidatetiketter och sammanställer choice, score och sanningsbedömning på serversidan, vilket undviker token-för-token-avkodning och JSON-generering.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev möjliggör LLM-as-a-Judge 20–200x snabbare och 40–400x billigare
Jev användes för att välja vilken modell som är AGI, med 20–200x hastighet och 40–400x lägre kostnad, vilket gör LLM-as-a-Judge extremt snabbt och nästan gratis.
Testa appar med TypeSafe Jev & OpenCode
Filip delar en liten demo som visar hur snabbt det går att testa appar med TypeSafe Jev och OpenCode.
