Jev verslaat Gemini 2.5 Flash Lite op kwaliteit en snelheid in classifier-evaluatie
Malte Ubl voerde Jev van TypeSafe AI uit op een bestaande classifier-evaluatie: het verzadigde de evaluatie op kwaliteit en was 6x sneller dan Gemini 2.5 Flash Lite.
Jev-benchmarks: nauwkeurigheid vs. kalibratie
Evaluatie van Jev en negen open checkpoints op 22 taken toont dat Jev leidt in macro-nauwkeurigheid, maar een open 4B-model beter gekalibreerde waarschijnlijkheden produceert; jev-bench is volledig open.
Jev Tests: Accuracy gave one ranking. Calibration gave another. We evaluated Jev and nine open checkpoints across 22 tasks. Jev led on macro accuracy. But an open 4B model produced better-calibrated probabilities. jev-bench is fully open 👇
· 0 likesOpen on X
More like this
Snelle rijclassificatie in DuckDB met Jev
De auteur heeft een DuckDB-extensie uitgebracht die TypeSafe AI's Jev gebruikt om rijen in CSV/Parquet-bestanden of DuckDB-tabellen snel te classificeren, ongeveer 10 seconden voor 1k rijen—sneller dan een LLM en ergonomischer dan een classifier.
1.018 AI-papers classificeren met Jev voor $ 0,08
De auteur vatte elk paper samen met DeepSeek V4 Flash en stuurde vervolgens de titel, samenvatting en 24 kandidaat-onderwerpen naar Jev voor classificatie. Er werden 1.018 AI-papers verwerkt tegen $ 0,08 totale kosten en 256ms mediane end-to-end latentie per paper.
