Benchmark public avec 900 décisions réelles d'audit web, réponses de Jev et Opus 5 côte à côte, toutes les lignes ouvertes sous MIT. Jev a obtenu 85,8/100, égalant Opus 5.
Congrats on shipping Solomon. If you want a public yardstick for it: 900 real web audit decisions with Jev and Opus 5 answers side by side, all rows open, MIT. Jev matched Opus 5 on 85.8 of 100. Would be great to see where Solomon 27b lands:
Malte Ubl a testé Jev de TypeSafe AI sur une évaluation de classifieur existante : il a saturé l'évaluation en qualité et a été 6 fois plus rapide que Gemini 2.5 Flash Lite.
L'auteur a publié une extension DuckDB qui utilise Jev de TypeSafe AI pour classer rapidement des lignes dans des fichiers CSV/Parquet ou des tables DuckDB, environ 10 secondes pour 1k lignes, plus rapide qu'un LLM et plus ergonomique qu'un classifieur.
L'auteur a résumé chaque article avec DeepSeek V4 Flash, puis a envoyé le titre, le résumé et 24 sujets candidats à Jev pour classification, traitant 1 018 articles d'IA pour un coût total de 0,08 $ et une latence médiane de 256 ms par article.
