Jev превосходит Gemini 2.5 Flash Lite по качеству и скорости в оценке классификатора
Malte Ubl прогнал Jev от TypeSafe AI на существующей оценке классификатора: он насытил оценку по качеству и оказался в 6 раз быстрее Gemini 2.5 Flash Lite.
Автор потратил неделю на измерение Jev: 18 000 суждений по полной спецификации HTTP за 8 центов, затем вручную разметил 59 предложений, чтобы проверить, значат ли что-то вероятности. Каждый интервал оказался ниже прогноза.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵