Membangun pengklasifikasi basis kode dengan Jev
Seorang pengembang membagikan pembuatan pengklasifikasi basis kode dengan Jev, menyarankan ini dapat mengatasi kode berlebihan dari agen, dan bertanya apa yang harus diuji selanjutnya.
Simple Jev: Mengubah Model Terbuka menjadi Antarmuka Keputusan Terstruktur
Simple Jev menggunakan kembali cache KV konteks bersama, hanya membaca logits token berikutnya dari label kandidat, dan menyusun choice, score, serta penilaian kebenaran di sisi server, menghindari decoding per token dan pembuatan JSON.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev memungkinkan LLM-as-a-Judge 20–200x lebih cepat dan 40–400x lebih murah
Jev digunakan untuk memilih model mana yang AGI, menawarkan kecepatan 20–200x dan biaya 40–400x lebih murah, membuat LLM-as-a-judge sangat cepat dan hampir gratis.
Menguji aplikasi dengan TypeSafe Jev & OpenCode
Filip membagikan demo kecil yang menunjukkan cepatnya menguji aplikasi dengan TypeSafe Jev dan OpenCode.
