Jev slår Gemini 2.5 Flash Lite i kvalitet och hastighet i klassificerarutvärdering
Malte Ubl körde TypeSafe AI:s Jev mot en befintlig klassificerarutvärdering: den mättade utvärderingen i kvalitet och var 6x snabbare än Gemini 2.5 Flash Lite.
Flaskhalsen med att använda Jev för Evals
Inlägget noterar att det är okej att använda Jev för Evals, men den verkliga flaskhalsen är att testa klassificerare mot mänskliga etiketter, inte utvärderingsmetoden i sig.
Using Jev for Evals is fine, but testing classifiers against human labels is the real bottleneck, not the evaluation method itself.
· 2 likesOpen on X
More like this
Snabb radklassificering i DuckDB med Jev
Författaren har släppt ett DuckDB-tillägg som använder TypeSafe AI:s Jev för att snabbt klassificera rader i CSV/Parquet-filer eller DuckDB-tabeller, cirka 10 sekunder för 1k rader—snabbare än en LLM och mer ergonomiskt än en klassificerare.
Klassificering av 1 018 AI-artiklar med Jev för 0,08 $
Författaren sammanfattade varje artikel med DeepSeek V4 Flash och skickade sedan titel, sammanfattning och 24 möjliga ämnen till Jev för klassificering. 1 018 AI-artiklar bearbetades till en total kostnad av 0,08 $ och en medianänd-till-änd-fördröjning på 256 ms per artikel.
