La evaluación de Jev y nueve checkpoints abiertos en 22 tareas muestra que Jev lidera en precisión macro, pero un modelo abierto de 4B produce probabilidades mejor calibradas; jev-bench es totalmente abierto.
Jev Tests: Accuracy gave one ranking. Calibration gave another. We evaluated Jev and nine open checkpoints across 22 tasks. Jev led on macro accuracy. But an open 4B model produced better-calibrated probabilities. jev-bench is fully open 👇
Malte Ubl ejecutó Jev de TypeSafe AI en una evaluación de clasificador existente: saturó la evaluación en calidad y fue 6 veces más rápido que Gemini 2.5 Flash Lite.
El autor publicó una extensión de DuckDB que usa Jev de TypeSafe AI para clasificar rápidamente filas en archivos CSV/Parquet o tablas DuckDB, tardando unos 10 segundos por 1k filas, más rápido que un LLM y más ergonómico que un clasificador.
El autor resumió cada artículo con DeepSeek V4 Flash y luego envió el título, el resumen y 24 temas candidatos a Jev para su clasificación, procesando 1.018 artículos de IA con un coste total de 0,08 $ y una latencia mediana de 256 ms por artículo.
