إرسال أول دعوات قائمة انتظار Jev
تحدث TypeSafe حالة الوصول: أرسلت بريدا لأول مجموعة من قائمة الانتظار وستدعو المزيد مع توسع الوصول.
يستخدم المؤلف Jev كطبقة توجيه مركزية للوكيل، ليقرر إلى أي نموذج لغوي تُوجَّه كل طلب وفقًا لتعقيد المهمة. سابقًا كان هذا القرار يعمل على Opus ويستغرق نحو 9.2 ثانية؛ ومع Jev يعود في نحو 15 مللي ثانية.
ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>