Back to explore

Bir ajanın çekirdek yönlendirme katmanı olarak Jev: karar süresi 9,2 saniyeden 15 ms'ye düştü

Yazar, Jev'i bir ajanın çekirdek yönlendirme katmanı olarak kullanıyor ve görev karmaşıklığına göre isteğin hangi dil modeline gideceğine Jev karar veriyor. Bu karar daha önce Opus üzerinde çalışıyor ve yaklaşık 9,2 saniye sürüyordu; Jev ile yaklaşık 15 ms'de dönüyor.

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Bir ajanın çekirdek yönlendirme katmanı olarak Jev: karar süresi 9,2 saniyeden 15 ms'ye düştü 1
· 0 likesOpen on X