Back to explore

エージェントの中核ルーティング層としてのJev:意思決定を9.2秒から15msへ短縮

投稿者はJevをエージェントの中核ルーティング層として使用し、タスクの複雑さに応じてどの言語モデルにリクエストを渡すかを判断させている。以前はこの判断をOpusが担い約9.2秒かかっていたが、Jevでは約15msで返る。

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

エージェントの中核ルーティング層としてのJev:意思決定を9.2秒から15msへ短縮 1
· 0 likesOpen on X