Första Jev waitlist inbjudningarna skickas
TypeSafe uppdaterar åtkomsten: en första grupp på väntelistan har fått mejl och fler bjuds in när åtkomsten utökas.
Jev som en agents centrala routningslager: beslutstiden minskar från 9,2 s till 15 ms
Författaren använder Jev som en agents centrala routningslager, som utifrån uppgiftens komplexitet avgör vilken språkmodell en begäran skickas till. Tidigare kördes detta beslut på Opus och tog cirka 9,2 sekunder; med Jev återkommer det på cirka 15 ms.
ניסיתי את Jev כשכבת הניתוב המרכזית אצלי באייג׳נט. הוא מחליט לאיזה מודל שפה להעביר את הבקשה לפי מורכבות המשימה, ובא לעזור בקבלת החלטות מהירות יותר. קודם ההחלטה הזאת רצה על Opus ולקחה בערך 9.2 שניות. עם Jev היא חוזרת בערך ב-15ms >>
· 0 likesOpen on X
More like this
Användare fick Jev-åtkomst och körde ~5 000 förfrågningar
Användaren uppger att hen fick Jev-åtkomst tidigare samma dag, körde ~5 000 förfrågningar för cirka 2 $ inom klassificering, modellroutning, avsikt, styrning med mera, och kallar Jev en ny intelligent beslutsprimitiv.
Jev väntelista öppen: svara för att få tillgång
Kevin Zhang bjuder in Jev-väntelisteanvändare att svara vad de vill bygga för att få tillgång.