Criando um classificador de código com Jev
Um desenvolvedor compartilha a criação de um classificador de código com Jev, sugerindo que pode resolver código superengenheirado por agentes, e pergunta o que testar a seguir.
Desenvolvedor elogia o classificador Jev para roteamento de inferência multimodelo
O desenvolvedor Chris Dukes afirma que o classificador Jev da TypeSafe funciona bem e é adequado para rotear para vários modelos servidos ao mesmo tempo na inferência, embora limitado por 8GB de VRAM.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge com 20–200x mais velocidade e 40–400x menos custo
Jev foi usado para escolher qual modelo é AGI, oferecendo 20–200x mais velocidade e 40–400x menos custo, tornando o LLM-as-a-judge extremamente rápido e quase gratuito.
Testando apps com TypeSafe Jev e OpenCode
Filip compartilha uma pequena demo mostrando a rapidez de testar apps com TypeSafe Jev e OpenCode.
