Creando un clasificador de código con Jev
Un desarrollador comparte la creación de un clasificador de código con Jev, sugiere que puede resolver código sobrediseñado por agentes y pregunta qué probar después.
Desarrollador elogia el clasificador Jev para enrutamiento de inferencia multimodelo
El desarrollador Chris Dukes afirma que el clasificador Jev de TypeSafe funciona bien y es adecuado para enrutar a múltiples modelos servidos a la vez en inferencia, aunque limitado por 8GB de VRAM.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge con 20–200x más velocidad y 40–400x menos costo
Jev se usó para elegir qué modelo es AGI, ofreciendo 20–200x más velocidad y 40–400x menos costo, lo que hace que LLM-as-a-judge sea extremadamente rápido y casi gratis.
Probando apps con TypeSafe Jev y OpenCode
Filip comparte una pequeña demo que muestra la rapidez al probar apps con TypeSafe Jev y OpenCode.
