Jev verslaat Gemini 2.5 Flash Lite op kwaliteit en snelheid in classifier-evaluatie
Malte Ubl voerde Jev van TypeSafe AI uit op een bestaande classifier-evaluatie: het verzadigde de evaluatie op kwaliteit en was 6x sneller dan Gemini 2.5 Flash Lite.
De auteur deelt de ervaring met handmatig labelen met Jev, merkt op dat Jev alleen met opus liep en abusievelijk met een andere opus werd vergeleken, en instrueert het nu om met meerdere verschillende modellen te labelen.
אחד הדברים שצריך קצת לעבוד קשה פה זה לתייג ידנית גם עוד כל מיני דברים ואני צריך לוודא בעצמי (ומי אמר שאני רשאי לתייג כמו שצריך? מי עשה אותי תייגן?) גם שמתי לב בנוסף שjev רץ רק עם opus ומדד בטעות מול opus אחר. אז הנחיתי אותו עכשיו לעשות תיוגים עם מספר מודלים שונים ממספר