Back to explore

Jev sebagai lapisan perutean inti agen: waktu keputusan turun dari 9,2 detik menjadi 15ms

Penulis menggunakan Jev sebagai lapisan perutean inti agen, yang memutuskan model bahasa mana yang menerima setiap permintaan berdasarkan kompleksitas tugas. Sebelumnya keputusan ini berjalan di Opus dan memakan waktu sekitar 9,2 detik; dengan Jev hasilnya kembali dalam sekitar 15ms.

ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>

Jev sebagai lapisan perutean inti agen: waktu keputusan turun dari 9,2 detik menjadi 15ms 1
· 0 likesOpen on X