Jevでコードベース分類器を構築
開発者がJevでコードベース分類器を構築し、エージェントが生成する過剰設計なコードの解決策になり得ると述べ、次のテスト対象を尋ねている。
JevのOSS対抗Laya登場：非生成型判断モデル、T4で32.8ms/問
LayaはJevのOSS対抗で、判断だけを返す非生成型モデル。T4で32.8ms/問、100言語以上対応、完全無料・自前運用可。LLMで毎回考えさせていた振り分け・優先度判定・ガードレールを軽量モデルに逃がせ、エージェント分岐の速度が段違いになる。
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
JevがLLM-as-a-Judgeを20～200倍高速・40～400倍低コストで実現
JevはどのモデルがAGIかを判断するために使われ、20～200倍の速度と40～400倍の低コストを実現し、LLM-as-a-judgeを極めて高速かつほぼ無料にします。
TypeSafe JevとOpenCodeでアプリをテスト
FilipがTypeSafe JevとOpenCodeを使ったアプリテストの速さを示す小さなデモを共有。
