Jev verslaat Gemini 2.5 Flash Lite op kwaliteit en snelheid in classifier-evaluatie
Malte Ubl voerde Jev van TypeSafe AI uit op een bestaande classifier-evaluatie: het verzadigde de evaluatie op kwaliteit en was 6x sneller dan Gemini 2.5 Flash Lite.
De auteur deelt een eerste poging met Jev: 33.411 paren werden ingevoerd om te bepalen of ze dezelfde gebeurtenis beschrijven, met de teruggegeven waarschijnlijkheden als drempels—onder 0,3 verschillend, 0,3–0,7 naar een LLM, boven 0,7 hetzelfde—en meldt ongeveer de helft van de tijd.
איך עשיתי את זה עם Jev? (ניסיון ראשון) נתתי כל פעם זוג ולשאול האם מתארים את אותו הדבר, סה״כ אצלי 33,411 זוגות. הוא מחזיר הסתברות, אז הגדרתי טווח: - אם מתחת ל-0.3 - זה לא אותו אירוע - אם בין 0.3 ל0.7 - לא בטוח, נשלח ל-LLM להחליט - אם מעל 0.7 - זה אותו האירוע ובחצי מהמהירות