返回探索

Jev 开源替代 Laya 发布:非生成型判断模型,T4 上 32.8ms/问

Laya 是 Jev 的开源替代方案,定位为非生成型判断模型,在 T4 上每问 32.8ms,支持 100 多种语言,完全免费且可自托管。它可承接原本由 LLM 反复推理的振り分け、优先级判定和护栏任务,显著加快智能体分支速度。

JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。

· 0 次赞在 X 打开