Autor spędził tydzień na pomiarze Jev: 18 000 osądów na pełnej specyfikacji HTTP za 8 centów, a następnie ręcznie oznaczył 59 zdań, aby sprawdzić, czy prawdopodobieństwa coś znaczą. Każdy przedział wypadł poniżej przewidywania.
Everyone posted a Jev demo last week. I spent the week measuring it instead. 18,000 judgments across a full HTTP spec. 8 cents. Then I hand labelled 59 sentences to check whether the probabilities mean anything. Every bucket came in below its prediction. 🧵
Malte Ubl uruchomił Jev od TypeSafe AI na istniejącej ewaluacji klasyfikatora: nasycił ewaluację pod względem jakości i był 6 razy szybszy niż Gemini 2.5 Flash Lite.
Autor wydał rozszerzenie DuckDB, które używa Jev od TypeSafe AI do szybkiej klasyfikacji wierszy w plikach CSV/Parquet lub tabelach DuckDB, około 10 sekund na 1k wierszy—szybciej niż LLM i wygodniej niż klasyfikator.
Autor streścił każdy artykuł za pomocą DeepSeek V4 Flash, a następnie przesłał tytuł, streszczenie i 24 możliwe tematy do Jev w celu klasyfikacji. Przetworzono 1018 artykułów o AI przy łącznym koszcie 0,08 USD i medianie opóźnienia end-to-end 256 ms na artykuł.
