L'auteur a réalisé 662 tests de précision de Jev avec les jeux de données SMS Spam Collection et Banking77 de Kaggle, avec des résultats surprenants.
How accurate is Jev, really? I tested it with two Kaggle datasets 662 times, and the results were a bit surprising. I used datasets from Kaggle: - SMS Spam Collection: 5,574 English text messages, sampled 200 for a smoke test - Banking77: 13,000 real banking app queries, 77
Malte Ubl a testé Jev de TypeSafe AI sur une évaluation de classifieur existante : il a saturé l'évaluation en qualité et a été 6 fois plus rapide que Gemini 2.5 Flash Lite.
L'auteur a publié une extension DuckDB qui utilise Jev de TypeSafe AI pour classer rapidement des lignes dans des fichiers CSV/Parquet ou des tables DuckDB, environ 10 secondes pour 1k lignes, plus rapide qu'un LLM et plus ergonomique qu'un classifieur.
L'auteur a résumé chaque article avec DeepSeek V4 Flash, puis a envoyé le titre, le résumé et 24 sujets candidats à Jev pour classification, traitant 1 018 articles d'IA pour un coût total de 0,08 $ et une latence médiane de 256 ms par article.
