Jevの分類モデルで有効な次トークンを選びC++を書く
TypeSafeのJev決定/分類モデルを使い、各ステップで文法的に有効な次トークンだけを提示してC++コードを生成する実験。
この投稿は、pytestで評価された18タスク×3試行で、自社ルーターがOpenRouterのJev RouterやAuto routerよりも高い一貫性(94.4%対72.2%対16.7%)、低コスト、低レイテンシを達成したと主張しています。
We just beat OpenRouter’s Jev Router and their Auto router on real OSS bug fixes. 18 tasks × 3 attempts, pytest graded: → Consistency: 94.4% vs 72.2% vs 16.7% → Cost/task: $0.000042 vs $0.000135 vs $0.007615 → Latency: faster than both Zero-markup BYOK + smarter routing +