Jev مقارنة بنماذج توليد النصوص
لا يولد Jev نصا حرا. يوضح فيديو مقارنة الفرق بين اتخاذ القرار بالتوازي وتوليد النص رمزا بعد رمز.
لماذا Jev أسرع بحوالي 200 مرة من مُقيّم LLM؟
لا يمتلك Jev مرحلة فك ترميز؛ الإجابة تخرج من تمريرة prefill واحدة، مما يجعله أسرع بحوالي 200 مرة من مُقيّم LLM التقليدي.
Why is Jev ~200x faster than an LLM judge? Short answer: it has no decode stage. The answer comes out of a single prefill pass. 🧵
· 0 likesOpen on X
More like this
التسعير والتقييمات وأصل اسم Jev
يشرح خيط الإطلاق تقييمات سير عمل code + AI وسعر الإدخال المعلن والتوكنات الناتجة المجانية.
نموذج Jev: توليد الاحتمالات لاتخاذ القرار، أسرع 200 مرة وأرخص 400 مرة من نماذج اللغة الكبيرة
صُمم هذا النموذج لاتخاذ القرار بدلاً من توليد النص، حيث يُخرج احتمالات لكل خيار على التوازي بدلاً من استجابة رمزاً برمز. يشارك المؤلف مثالاً مبسطاً يقارن بين نماذج اللغة العادية ونموذج Jev هذا.
