Jev vượt Gemini 2.5 Flash Lite về chất lượng và tốc độ trong đánh giá bộ phân loại
Malte Ubl chạy Jev của TypeSafe AI trên một đánh giá bộ phân loại hiện có: nó bão hòa đánh giá về chất lượng và nhanh gấp 6 lần Gemini 2.5 Flash Lite.
Tác giả dành một tuần đo lường Jev: 18.000 phán đoán trên toàn bộ đặc tả HTTP với chi phí 8 xu, sau đó gán nhãn thủ công 59 câu để kiểm tra xem xác suất có ý nghĩa gì không. Mọi nhóm đều thấp hơn dự đoán.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵