Back to explore

Jev làm lớp định tuyến cốt lõi của agent: thời gian quyết định giảm từ 9,2 giây xuống 15ms

Tác giả dùng Jev làm lớp định tuyến cốt lõi của agent, để nó quyết định mô hình ngôn ngữ nào nhận yêu cầu dựa trên độ phức tạp của tác vụ. Trước đây quyết định này chạy trên Opus và mất khoảng 9,2 giây; với Jev, kết quả trả về trong khoảng 15ms.

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Jev làm lớp định tuyến cốt lõi của agent: thời gian quyết định giảm từ 9,2 giây xuống 15ms 1
· 0 likesOpen on X