Jevが分類器評価で品質と速度の両方で優位
Malte Ubl氏がTypeSafe AIのJevを既存の分類器評価に適用したところ、品質で評価を飽和させ、Gemini 2.5 Flash Liteより6倍高速だった。
Jev 1.13.0 vs GPT-6 Luna：JevBench ベンチマーク比較
Benchmark Heaven の JevBench 比較によると、Jev 1.13.0 は公開/封印データセットで 86.6% / 36.7%、GPT-6 Luna は 99.6% / 95.5%。Luna は JevBench で依然 30 位で、コスト軸（1,000 件あたり 0.135 ドル vs 0.040 ドル）と 50 未満のゲート適用が要因とされる。
GPT-6 Luna (medium) gets nearly everything right: 99.6% public, 95.5% sealed. Jev 1.13.0: 86.6% and 36.7%. Luna still ranks #30 on JevBench. One column explains it: $0.135 per 1,000 decisions vs $0.040, Cost axis 36.0. Below 50, the gate applies. https://benchmarkheaven.com/jev-models/v1.4.1?compare=jev-1.13.0,gpt-6-luna…
· 0 likesOpen on X
More like this
JevでDuckDBの行を高速分類
著者がDuckDB拡張を公開。TypeSafe AIのJevを使い、CSV/ParquetファイルやDuckDBテーブルの行を高速分類。1k行で約10秒、LLMより速く、分類器より使いやすい。
JevでAI論文1,018本を分類、総コスト0.08ドル
DeepSeek V4 Flashで各論文を要約し、タイトル・要約・24の候補トピックをJevに送って分類。1,018本のAI論文を総コスト0.08ドル、中央値256msのエンドツーエンド遅延で処理した。
