Back to explore

Jev como camada de roteamento central de um agente: decisão cai de 9,2 s para 15 ms

O autor usa o Jev como camada de roteamento central de um agente, deixando-o decidir para qual modelo de linguagem enviar cada solicitação conforme a complexidade da tarefa. Antes, essa decisão rodava no Opus e levava cerca de 9,2 segundos; com o Jev, retorna em cerca de 15 ms.

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Jev como camada de roteamento central de um agente: decisão cai de 9,2 s para 15 ms 1
· 0 likesOpen on X