La valutazione di Jev e nove checkpoint aperti su 22 attività mostra che Jev è in testa per accuratezza macro, ma un modello aperto da 4B produce probabilità meglio calibrate; jev-bench è completamente aperto.
Jev Tests: Accuracy gave one ranking. Calibration gave another. We evaluated Jev and nine open checkpoints across 22 tasks. Jev led on macro accuracy. But an open 4B model produced better-calibrated probabilities. jev-bench is fully open 👇
Malte Ubl ha eseguito Jev di TypeSafe AI su una valutazione di classificazione esistente: ha saturato la valutazione in qualità ed è stato 6 volte più veloce di Gemini 2.5 Flash Lite.
L'autore ha pubblicato un'estensione DuckDB che usa Jev di TypeSafe AI per classificare rapidamente le righe in file CSV/Parquet o tabelle DuckDB, circa 10 secondi per 1k righe—più veloce di un LLM e più ergonomico di un classificatore.
L'autore ha riassunto ogni paper con DeepSeek V4 Flash, poi ha inviato titolo, riassunto e 24 argomenti candidati a Jev per la classificazione, elaborando 1.018 paper sull'IA con un costo totale di 0,08 $ e una latenza end-to-end mediana di 256 ms per paper.
