Criando um classificador de código com Jev
Um desenvolvedor compartilha a criação de um classificador de código com Jev, sugerindo que pode resolver código superengenheirado por agentes, e pergunta o que testar a seguir.
Surge Laya, alternativa open source ao Jev: modelo de decisão não generativo a 32,8 ms/consulta em T4
Laya é uma alternativa open source ao Jev: um modelo de decisão não generativo com 32,8 ms por consulta em T4, suporte a mais de 100 idiomas, totalmente gratuito e auto-hospedável. Ele delega roteamento, priorização e guardrails antes feitos por inferência repetida de LLM, acelerando muito a ramificação de agentes.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge com 20–200x mais velocidade e 40–400x menos custo
Jev foi usado para escolher qual modelo é AGI, oferecendo 20–200x mais velocidade e 40–400x menos custo, tornando o LLM-as-a-judge extremamente rápido e quase gratuito.
Testando apps com TypeSafe Jev e OpenCode
Filip compartilha uma pequena demo mostrando a rapidez de testar apps com TypeSafe Jev e OpenCode.
