Le post compare la latence de requête de bout en bout du routeur Jev avec les modèles optimaux de Pareto voisins. Les résultats montrent que la latence médiane du routeur Jev était de 6,18 secondes, supérieure aux 3,64 secondes de DeepSeek V4.1 Flash (Max), avec un écart se creusant au P90.
Finally, let’s compare the router’s end-to-end request latency with nearby Pareto optimal models. The results show Jev Router's median latency was higher. It took 6.18 seconds, compared with 3.64 seconds for DeepSeek V4.1 Flash (Max). The gap widens at P90, the slowest 10% of
Malte Ubl a testé Jev de TypeSafe AI sur une évaluation de classifieur existante : il a saturé l'évaluation en qualité et a été 6 fois plus rapide que Gemini 2.5 Flash Lite.
L'auteur a publié une extension DuckDB qui utilise Jev de TypeSafe AI pour classer rapidement des lignes dans des fichiers CSV/Parquet ou des tables DuckDB, environ 10 secondes pour 1k lignes, plus rapide qu'un LLM et plus ergonomique qu'un classifieur.
L'auteur a résumé chaque article avec DeepSeek V4 Flash, puis a envoyé le titre, le résumé et 24 sujets candidats à Jev pour classification, traitant 1 018 articles d'IA pour un coût total de 0,08 $ et une latence médiane de 256 ms par article.
