Jev مقارنة بنماذج توليد النصوص
لا يولد Jev نصا حرا. يوضح فيديو مقارنة الفرق بين اتخاذ القرار بالتوازي وتوليد النص رمزا بعد رمز.
نموذج قرار Kev-0.6B من فئة Jev ينفذ تمريرة أمامية واحدة على محرك Apple العصبي
Kev-0.6B هو نموذج قرار من فئة Jev يعمل على محرك Apple العصبي. تمريرة أمامية واحدة، دون توليد رموز، 7.18 مللي ثانية لكل قرار مع p99 عند 7.53 مللي ثانية. لم يتم تأكيد الموضع بعد؛ يتم قياسه بثلاث طرق: وحدة المعالجة المركزية فقط تُرجع أصفارًا، وأداة xctrace Neural Engine من Apple تعد 303.
Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303
· 1 likesOpen on X
More like this
التسعير والتقييمات وأصل اسم Jev
يشرح خيط الإطلاق تقييمات سير عمل code + AI وسعر الإدخال المعلن والتوكنات الناتجة المجانية.
نموذج Jev: توليد الاحتمالات لاتخاذ القرار، أسرع 200 مرة وأرخص 400 مرة من نماذج اللغة الكبيرة
صُمم هذا النموذج لاتخاذ القرار بدلاً من توليد النص، حيث يُخرج احتمالات لكل خيار على التوازي بدلاً من استجابة رمزاً برمز. يشارك المؤلف مثالاً مبسطاً يقارن بين نماذج اللغة العادية ونموذج Jev هذا.
