L'autore ha testato Jev per il monitoraggio CoT su 2.200 tracce di pensiero, riportando che supera Sonnet 5 nella classificazione ed è 3,7 volte più veloce di Luna e 6 volte più veloce di Sonnet.
I ran Jev against Claude and ChatGPT for CoT Monitoring on 2,200 thought traces. It beat Sonnet 5 at classification, but the main selling point is the speed, classifying 3.7x faster than Luna and 6x faster than Sonnet! 🧵
Malte Ubl ha eseguito Jev di TypeSafe AI su una valutazione di classificazione esistente: ha saturato la valutazione in qualità ed è stato 6 volte più veloce di Gemini 2.5 Flash Lite.
L'autore ha pubblicato un'estensione DuckDB che usa Jev di TypeSafe AI per classificare rapidamente le righe in file CSV/Parquet o tabelle DuckDB, circa 10 secondi per 1k righe—più veloce di un LLM e più ergonomico di un classificatore.
L'autore ha riassunto ogni paper con DeepSeek V4 Flash, poi ha inviato titolo, riassunto e 24 argomenti candidati a Jev per la classificazione, elaborando 1.018 paper sull'IA con un costo totale di 0,08 $ e una latenza end-to-end mediana di 256 ms per paper.
