Creando un clasificador de código con Jev
Un desarrollador comparte la creación de un clasificador de código con Jev, sugiere que puede resolver código sobrediseñado por agentes y pregunta qué probar después.
Llega Laya, alternativa open source a Jev: modelo de decisión no generativo a 32.8 ms/consulta en T4
Laya es una alternativa open source a Jev, un modelo de decisión no generativo que responde en 32,8 ms por consulta en T4, admite más de 100 idiomas y es totalmente gratuito y autoalojable. Permite delegar el enrutamiento, la priorización y las barreras de seguridad que antes requerían inferencia repetida con LLM, acelerando mucho la ramificación de agentes.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge con 20–200x más velocidad y 40–400x menos costo
Jev se usó para elegir qué modelo es AGI, ofreciendo 20–200x más velocidad y 40–400x menos costo, lo que hace que LLM-as-a-judge sea extremadamente rápido y casi gratis.
Probando apps con TypeSafe Jev y OpenCode
Filip comparte una pequeña demo que muestra la rapidez al probar apps con TypeSafe Jev y OpenCode.
