Back to explore

Alternatif open source Jev, Laya, hadir: model keputusan non-generatif 32,8 ms/kueri di T4

Laya adalah alternatif open source untuk Jev: model keputusan non-generatif dengan 32,8 ms per kueri di T4, mendukung 100+ bahasa, sepenuhnya gratis dan dapat dihosting sendiri. Ia menangani perutean, penilaian prioritas, dan guardrail yang sebelumnya memerlukan inferensi LLM berulang, sehingga mempercepat percabangan agen secara signifikan.

JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。

· 0 likesOpen on X