Jev verslaat Gemini 2.5 Flash Lite op kwaliteit en snelheid in classifier-evaluatie
Malte Ubl voerde Jev van TypeSafe AI uit op een bestaande classifier-evaluatie: het verzadigde de evaluatie op kwaliteit en was 6x sneller dan Gemini 2.5 Flash Lite.
Jev meten: 18.000 oordelen en controle van waarschijnlijkheidskalibratie
De auteur besteedde een week aan het meten van Jev: 18.000 oordelen over een volledige HTTP-specificatie voor 8 cent, en labelde daarna handmatig 59 zinnen om te controleren of de waarschijnlijkheden iets betekenen. Elke bucket bleef onder de voorspelling.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵
· 0 likesOpen on X
More like this
Snelle rijclassificatie in DuckDB met Jev
De auteur heeft een DuckDB-extensie uitgebracht die TypeSafe AI's Jev gebruikt om rijen in CSV/Parquet-bestanden of DuckDB-tabellen snel te classificeren, ongeveer 10 seconden voor 1k rijen—sneller dan een LLM en ergonomischer dan een classifier.
1.018 AI-papers classificeren met Jev voor $ 0,08
De auteur vatte elk paper samen met DeepSeek V4 Flash en stuurde vervolgens de titel, samenvatting en 24 kandidaat-onderwerpen naar Jev voor classificatie. Er werden 1.018 AI-papers verwerkt tegen $ 0,08 totale kosten en 256ms mediane end-to-end latentie per paper.
