Publiczny benchmark z 900 rzeczywistymi decyzjami audytu webowego, odpowiedzi Jev i Opus 5 obok siebie, wszystkie wiersze otwarte na licencji MIT. Jev uzyskał 85,8/100, dorównując Opus 5.
Congrats on shipping Solomon. If you want a public yardstick for it: 900 real web audit decisions with Jev and Opus 5 answers side by side, all rows open, MIT. Jev matched Opus 5 on 85.8 of 100. Would be great to see where Solomon 27b lands:
Malte Ubl uruchomił Jev od TypeSafe AI na istniejącej ewaluacji klasyfikatora: nasycił ewaluację pod względem jakości i był 6 razy szybszy niż Gemini 2.5 Flash Lite.
Autor wydał rozszerzenie DuckDB, które używa Jev od TypeSafe AI do szybkiej klasyfikacji wierszy w plikach CSV/Parquet lub tabelach DuckDB, około 10 sekund na 1k wierszy—szybciej niż LLM i wygodniej niż klasyfikator.
Autor streścił każdy artykuł za pomocą DeepSeek V4 Flash, a następnie przesłał tytuł, streszczenie i 24 możliwe tematy do Jev w celu klasyfikacji. Przetworzono 1018 artykułów o AI przy łącznym koszcie 0,08 USD i medianie opóźnienia end-to-end 256 ms na artykuł.
