Back to explore

Jev come livello di routing centrale di un agente: il tempo decisionale scende da 9,2 s a 15 ms

L'autore usa Jev come livello di routing centrale di un agente, lasciandogli decidere a quale modello linguistico inviare ogni richiesta in base alla complessità del compito. Prima questa decisione girava su Opus e richiedeva circa 9,2 secondi; con Jev torna in circa 15 ms.

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Jev come livello di routing centrale di un agente: il tempo decisionale scende da 9,2 s a 15 ms 1
· 0 likesOpen on X