بناء مصنف قاعدة كود باستخدام Jev
يشارك مطور بناء مصنف قاعدة كود باستخدام Jev، ويقترح أنه قد يحل مشكلة الكود المفرط الهندسة من الوكلاء، ويسأل عما يجب اختباره بعد ذلك.
Simple Jev: تحويل النماذج المفتوحة إلى واجهات قرارات منظمة
يعيد Simple Jev استخدام ذاكرة KV المؤقتة للسياق المشترك، ويقرأ فقط logits الرمز التالي لتسميات المرشحين، ويجمع choice وscore وحكم الصحة على الخادم، مما يلغي فك التشفير رمزاً برمز وتوليد JSON.
如果分类结果最终要喂给业务系统，生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev… 它复用共享上下文的 KV cache，只读取各问题候选标签的下一 token logits，再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON
· 1 likesOpen on X
More like this
Jev يتيح LLM-as-a-Judge بسرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف
تم استخدام Jev لاختيار النموذج الذي يمثل AGI، مع سرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف، مما يجعل LLM-as-a-judge سريعًا للغاية وشبه مجاني.
اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode
يشارك Filip عرضًا صغيرًا يوضح سرعة اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode.
