بناء مصنف قاعدة كود باستخدام Jev
يشارك مطور بناء مصنف قاعدة كود باستخدام Jev، ويقترح أنه قد يحل مشكلة الكود المفرط الهندسة من الوكلاء، ويسأل عما يجب اختباره بعد ذلك.
نموذج Laya المحلي بحجم 421M يتفوق على Jev السحابي في السرعة
Laya هو نموذج قرار System 1 مفتوح المصدر يعمل محليًا بـ 421M معامل، وذاكرة استدلال ~1GB، و86.5 قرار/ثانية، وP50 ~9ms، ودرجة 46؛ مقارنةً بـ Jev: 3.2 قرار/ثانية، و317ms زمن استجابة API، ودرجة 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev يتيح LLM-as-a-Judge بسرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف
تم استخدام Jev لاختيار النموذج الذي يمثل AGI، مع سرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف، مما يجعل LLM-as-a-judge سريعًا للغاية وشبه مجاني.
اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode
يشارك Filip عرضًا صغيرًا يوضح سرعة اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode.
