Jev slår Gemini 2.5 Flash Lite i kvalitet och hastighet i klassificerarutvärdering
Malte Ubl körde TypeSafe AI:s Jev mot en befintlig klassificerarutvärdering: den mättade utvärderingen i kvalitet och var 6x snabbare än Gemini 2.5 Flash Lite.
Mätning av Jev: 18 000 bedömningar och kontroll av sannolikhetskalibrering
Författaren tillbringade en vecka med att mäta Jev: 18 000 bedömningar över en fullständig HTTP-specifikation för 8 cent, och märkte sedan 59 meningar manuellt för att kontrollera om sannolikheterna betyder något. Varje intervall hamnade under sin förutsägelse.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵
· 0 likesOpen on X
More like this
Snabb radklassificering i DuckDB med Jev
Författaren har släppt ett DuckDB-tillägg som använder TypeSafe AI:s Jev för att snabbt klassificera rader i CSV/Parquet-filer eller DuckDB-tabeller, cirka 10 sekunder för 1k rader—snabbare än en LLM och mer ergonomiskt än en klassificerare.
Klassificering av 1 018 AI-artiklar med Jev för 0,08 $
Författaren sammanfattade varje artikel med DeepSeek V4 Flash och skickade sedan titel, sammanfattning och 24 möjliga ämnen till Jev för klassificering. 1 018 AI-artiklar bearbetades till en total kostnad av 0,08 $ och en medianänd-till-änd-fördröjning på 256 ms per artikel.
