Der Beitrag vergleicht die End-to-End-Anfragelatenz des Jev-Routers mit nahegelegenen Pareto-optimalen Modellen. Die Ergebnisse zeigen, dass die mediane Latenz des Jev-Routers bei 6,18 Sekunden lag, höher als die 3,64 Sekunden von DeepSeek V4.1 Flash (Max), wobei sich die Kluft beim P90 weiter vergrößerte.
Finally, let’s compare the router’s end-to-end request latency with nearby Pareto optimal models. The results show Jev Router's median latency was higher. It took 6.18 seconds, compared with 3.64 seconds for DeepSeek V4.1 Flash (Max). The gap widens at P90, the slowest 10% of
Malte Ubl testete Jev von TypeSafe AI in einem bestehenden Klassifikator-Eval: Es sättigte das Eval qualitativ und war 6-mal schneller als Gemini 2.5 Flash Lite.
Der Autor hat eine DuckDB-Erweiterung veröffentlicht, die TypeSafe AIs Jev nutzt, um Zeilen in CSV/Parquet-Dateien oder DuckDB-Tabellen schnell zu klassifizieren – etwa 10 Sekunden für 1k Zeilen, schneller als ein LLM und ergonomischer als ein Klassifikator.
Der Autor fasste jedes Paper mit DeepSeek V4 Flash zusammen und übergab Titel, Zusammenfassung und 24 mögliche Themen an Jev zur Klassifizierung. 1.018 KI-Papers wurden bei 0,08 $ Gesamtkosten und 256 ms medianer End-to-End-Latenz pro Paper verarbeitet.
