Back to explore

Jev เป็นเลเยอร์กำหนดเส้นทางหลักของเอเจนต์: เวลาตัดสินใจลดจาก 9.2 วินาทีเหลือ 15ms

ผู้เขียนใช้ Jev เป็นเลเยอร์กำหนดเส้นทางหลักของเอเจนต์ โดยให้ตัดสินว่าควรส่งคำขอไปยังโมเดลภาษาใดตามความซับซ้อนของงาน ก่อนหน้านี้การตัดสินใจนี้ทำงานบน Opus และใช้เวลาราว 9.2 วินาที เมื่อใช้ Jev จะได้ผลลัพธ์กลับมาในราว 15ms

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Jev เป็นเลเยอร์กำหนดเส้นทางหลักของเอเจนต์: เวลาตัดสินใจลดจาก 9.2 วินาทีเหลือ 15ms 1
· 0 likesOpen on X