Jev slår Gemini 2.5 Flash Lite i kvalitet och hastighet i klassificerarutvärdering
Malte Ubl körde TypeSafe AI:s Jev mot en befintlig klassificerarutvärdering: den mättade utvärderingen i kvalitet och var 6x snabbare än Gemini 2.5 Flash Lite.
Jev-benchmark: utvärdering av noggrannhet vs kalibrering
Utvärdering av Jev och nio öppna checkpoints över 22 uppgifter visar att Jev leder i makronoggrannhet, men en öppen 4B-modell ger bättre kalibrerade sannolikheter; jev-bench är helt öppen.
Jev Tests: Accuracy gave one ranking. Calibration gave another. We evaluated Jev and nine open checkpoints across 22 tasks. Jev led on macro accuracy. But an open 4B model produced better-calibrated probabilities. jev-bench is fully open 👇
· 0 likesOpen on X
More like this
Snabb radklassificering i DuckDB med Jev
Författaren har släppt ett DuckDB-tillägg som använder TypeSafe AI:s Jev för att snabbt klassificera rader i CSV/Parquet-filer eller DuckDB-tabeller, cirka 10 sekunder för 1k rader—snabbare än en LLM och mer ergonomiskt än en klassificerare.
Klassificering av 1 018 AI-artiklar med Jev för 0,08 $
Författaren sammanfattade varje artikel med DeepSeek V4 Flash och skickade sedan titel, sammanfattning och 24 möjliga ämnen till Jev för klassificering. 1 018 AI-artiklar bearbetades till en total kostnad av 0,08 $ och en medianänd-till-änd-fördröjning på 256 ms per artikel.
