Créer un classificateur de base de code avec Jev
Un développeur partage la création d'un classificateur de base de code avec Jev, suggérant qu'il peut résoudre le code surconçu des agents, et demande quoi tester ensuite.
Un développeur salue le classifieur Jev pour le routage d'inférence multi-modèles
Le développeur Chris Dukes déclare que le classifieur Jev de TypeSafe fonctionne bien et convient au routage vers plusieurs modèles servis simultanément à l'inférence, mais est limité par 8 Go de VRAM.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev permet le LLM-as-a-Judge à 20–200x plus rapide et 40–400x moins cher
Jev a été utilisé pour déterminer quel modèle est AGI, offrant 20–200x plus de vitesse et 40–400x moins de coût, rendant LLM-as-a-judge extrêmement rapide et presque gratuit.
Tester des applications avec TypeSafe Jev et OpenCode
Filip partage une petite démo montrant la rapidité des tests d'applications avec TypeSafe Jev et OpenCode.
