Jev, 분류기 평가에서 품질과 속도 모두 우세
Malte Ubl이 TypeSafe AI의 Jev를 기존 분류기 평가에 적용한 결과, 품질에서 평가를 포화시켰고 Gemini 2.5 Flash Lite보다 6배 빨랐다.
저자는 Jev로 수동 라벨링한 경험을 공유하며, Jev가 opus로만 실행되고 실수로 다른 opus와 비교했다는 점을 지적하고, 이제 여러 다른 모델로 라벨링하도록 지시했다고 밝혔다.
אחד הדברים שצריך קצת לעבוד קשה פה זה לתייג ידנית גם עוד כל מיני דברים ואני צריך לוודא בעצמי (ומי אמר שאני רשאי לתייג כמו שצריך? מי עשה אותי תייגן?) גם שמתי לב בנוסף שjev רץ רק עם opus ומדד בטעות מול opus אחר. אז הנחיתי אותו עכשיו לעשות תיוגים עם מספר מודלים שונים ממספר