Bir üçüncü taraf 68 soruda doğruluğu test etti: FLock'un THIS/THAT Model 1.0'ı %94,1, barındırılan System One hizmeti Jev ise %76,5 aldı; gönderi, özel bir karar modeli için umut verici sonuçlara işaret ederken grafik dolaşımı ve çok adımlı aritmetik gibi karmaşık görevlerde hâlâ sınırlamalar olduğunu belirtiyor.
제3자가 정확도 검증을 위해 기록한 68개 질문 테스트 결과: FLock의 THIS / THAT Model 1.0: 94.1% Jev (호스팅형 System One 서비스): 76.5% 특화된 의사결정 모델로서는 고무적인 결과입니다. 다만 그래프 탐색이나 여러 단계의 산술 연산이 필요한 복잡한 작업은 여전히 한계로 남아 있습니다.
Malte Ubl, TypeSafe AI'ın Jev'ini mevcut bir sınıflandırıcı değerlendirmesinde çalıştırdı; kalitede değerlendirmeyi doyurdu ve Gemini 2.5 Flash Lite'tan 6 kat hızlıydı.
Yazar, TypeSafe AI'nin Jev'ini kullanarak CSV/Parquet dosyalarındaki veya DuckDB tablolarındaki satırları hızlıca sınıflandıran bir DuckDB eklentisi yayınladı; 1k satır için yaklaşık 10 saniye—LLM'den hızlı ve sınıflandırıcıdan daha kullanışlı.
Yazar her makaleyi DeepSeek V4 Flash ile özetledi, ardından başlık, özet ve 24 olası konuyu sınıflandırma için Jev'e gönderdi. 1.018 AI makalesi toplam 0,08 $ maliyet ve makale başına medyan 256ms uçtan uca gecikmeyle işlendi.
