Criando um classificador de código com Jev
Um desenvolvedor compartilha a criação de um classificador de código com Jev, sugerindo que pode resolver código superengenheirado por agentes, e pergunta o que testar a seguir.
Simple Jev: transformando modelos abertos em interfaces de decisão estruturadas
Simple Jev reutiliza o cache KV de contexto compartilhado, lê apenas os logits do próximo token dos rótulos candidatos e monta choice, score e julgamento de verdade no servidor, evitando decodificação por token e geração de JSON.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev permite LLM-as-a-Judge com 20–200x mais velocidade e 40–400x menos custo
Jev foi usado para escolher qual modelo é AGI, oferecendo 20–200x mais velocidade e 40–400x menos custo, tornando o LLM-as-a-judge extremamente rápido e quase gratuito.
Testando apps com TypeSafe Jev e OpenCode
Filip compartilha uma pequena demo mostrando a rapidez de testar apps com TypeSafe Jev e OpenCode.
