بناء مصنف قاعدة كود باستخدام Jev
يشارك مطور بناء مصنف قاعدة كود باستخدام Jev، ويقترح أنه قد يحل مشكلة الكود المفرط الهندسة من الوكلاء، ويسأل عما يجب اختباره بعد ذلك.
مزيج TypeGPU + ruNNtime + Jev يتيح الاستدلال والعرض المحليين في الوقت الفعلي
يشارك المطور تجربته في الجمع بين TypeGPU وruNNtime وJev: يوفر ruNNtime استدلالاً محلياً فعالاً، بينما يتيح TypeGPU للاستدلال والعرض مشاركة موارد GPU مباشرةً دون نسخ، مع تنفيذ ثلاث عمليات استدلال شبكة عصبية بالإضافة إلى العرض في الوقت الفعلي.
TypeGPU + ruNNtime + Jev @typesafeai is a very fun combo :D ruNNtime gives me efficient local inference, TypeGPU lets inference and rendering share GPU resources directly with zero copy. That’s 3 separate NN inferences plus rendering, all happening in realtime Since we control
· 699 likesOpen on X
More like this
Jev يتيح LLM-as-a-Judge بسرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف
تم استخدام Jev لاختيار النموذج الذي يمثل AGI، مع سرعة 20–200 ضعف وتكلفة أقل 40–400 ضعف، مما يجعل LLM-as-a-judge سريعًا للغاية وشبه مجاني.
اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode
يشارك Filip عرضًا صغيرًا يوضح سرعة اختبار التطبيقات باستخدام TypeSafe Jev وOpenCode.
