La publicación señala que usar Jev para Evals está bien, pero el verdadero cuello de botella es probar clasificadores contra etiquetas humanas, no el método de evaluación en sí.
Using Jev for Evals is fine, but testing classifiers against human labels is the real bottleneck, not the evaluation method itself.
Malte Ubl ejecutó Jev de TypeSafe AI en una evaluación de clasificador existente: saturó la evaluación en calidad y fue 6 veces más rápido que Gemini 2.5 Flash Lite.
El autor publicó una extensión de DuckDB que usa Jev de TypeSafe AI para clasificar rápidamente filas en archivos CSV/Parquet o tablas DuckDB, tardando unos 10 segundos por 1k filas, más rápido que un LLM y más ergonómico que un clasificador.
El autor resumió cada artículo con DeepSeek V4 Flash y luego envió el título, el resumen y 24 temas candidatos a Jev para su clasificación, procesando 1.018 artículos de IA con un coste total de 0,08 $ y una latencia mediana de 256 ms por artículo.
