A avaliação do Jev e de nove checkpoints abertos em 22 tarefas mostra que o Jev lidera em precisão macro, mas um modelo aberto de 4B produz probabilidades melhor calibradas; o jev-bench é totalmente aberto.
Jev Tests: Accuracy gave one ranking. Calibration gave another. We evaluated Jev and nine open checkpoints across 22 tasks. Jev led on macro accuracy. But an open 4B model produced better-calibrated probabilities. jev-bench is fully open 👇
Malte Ubl executou o Jev da TypeSafe AI em uma avaliação de classificador existente: saturou a avaliação em qualidade e foi 6x mais rápido que o Gemini 2.5 Flash Lite.
O autor lançou uma extensão do DuckDB que usa o Jev da TypeSafe AI para classificar rapidamente linhas em arquivos CSV/Parquet ou tabelas DuckDB, cerca de 10 segundos para 1k linhas, mais rápido que um LLM e mais ergonômico que um classificador.
O autor resumiu cada artigo com o DeepSeek V4 Flash e enviou título, resumo e 24 tópicos candidatos ao Jev para classificação, processando 1.018 artigos de IA com custo total de US$ 0,08 e latência mediana de 256 ms por artigo.
