Creare un classificatore di codebase con Jev
Uno sviluppatore condivide la creazione di un classificatore di codebase con Jev, suggerendo che può risolvere codice sovraingegnerizzato dagli agenti, e chiede cosa testare dopo.
Arriva Laya, alternativa open source a Jev: modello decisionale non generativo a 32,8 ms/query su T4
Laya è un'alternativa open source a Jev: un modello decisionale non generativo da 32,8 ms per query su T4, supporta oltre 100 lingue, è completamente gratuito e auto-ospitabile. Delega routing, prioritizzazione e guardrail prima affidati a inferenza LLM ripetuta, accelerando notevolmente le diramazioni degli agenti.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev consente LLM-as-a-Judge a 20–200x più veloce e 40–400x meno costoso
Jev è stato usato per scegliere quale modello è AGI, offrendo 20–200x più velocità e 40–400x meno costo, rendendo LLM-as-a-judge estremamente veloce e quasi gratuito.
Testare app con TypeSafe Jev e OpenCode
Filip condivide una piccola demo che mostra la velocità di test delle app con TypeSafe Jev e OpenCode.
