Der Autor hat eine Woche mit der Messung von Jev verbracht: 18.000 Urteile über eine vollständige HTTP-Spezifikation für 8 Cent, dann 59 Sätze manuell gelabelt, um zu prüfen, ob die Wahrscheinlichkeiten etwas bedeuten. Jeder Bucket lag unter seiner Vorhersage.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵
Malte Ubl testete Jev von TypeSafe AI in einem bestehenden Klassifikator-Eval: Es sättigte das Eval qualitativ und war 6-mal schneller als Gemini 2.5 Flash Lite.
Der Autor hat eine DuckDB-Erweiterung veröffentlicht, die TypeSafe AIs Jev nutzt, um Zeilen in CSV/Parquet-Dateien oder DuckDB-Tabellen schnell zu klassifizieren – etwa 10 Sekunden für 1k Zeilen, schneller als ein LLM und ergonomischer als ein Klassifikator.
Der Autor fasste jedes Paper mit DeepSeek V4 Flash zusammen und übergab Titel, Zusammenfassung und 24 mögliche Themen an Jev zur Klassifizierung. 1.018 KI-Papers wurden bei 0,08 $ Gesamtkosten und 256 ms medianer End-to-End-Latenz pro Paper verarbeitet.
