Yazar, Kaggle'ın SMS Spam Collection ve Banking77 veri setlerini kullanarak Jev üzerinde 662 doğruluk testi yaptı ve şaşırtıcı sonuçlar elde etti.
How accurate is Jev, really? I tested it with two Kaggle datasets 662 times, and the results were a bit surprising. I used datasets from Kaggle: - SMS Spam Collection: 5,574 English text messages, sampled 200 for a smoke test - Banking77: 13,000 real banking app queries, 77
Malte Ubl, TypeSafe AI'ın Jev'ini mevcut bir sınıflandırıcı değerlendirmesinde çalıştırdı; kalitede değerlendirmeyi doyurdu ve Gemini 2.5 Flash Lite'tan 6 kat hızlıydı.
Yazar, TypeSafe AI'nin Jev'ini kullanarak CSV/Parquet dosyalarındaki veya DuckDB tablolarındaki satırları hızlıca sınıflandıran bir DuckDB eklentisi yayınladı; 1k satır için yaklaşık 10 saniye—LLM'den hızlı ve sınıflandırıcıdan daha kullanışlı.
Yazar her makaleyi DeepSeek V4 Flash ile özetledi, ardından başlık, özet ve 24 olası konuyu sınıflandırma için Jev'e gönderdi. 1.018 AI makalesi toplam 0,08 $ maliyet ve makale başına medyan 256ms uçtan uca gecikmeyle işlendi.
