Einen Codebase-Klassifikator mit Jev erstellen
Ein Entwickler teilt den Bau eines Codebase-Klassifikators mit Jev, der überentwickelten Code von Agenten lösen könnte, und fragt, was als Nächstes getestet werden soll.
Entwickler lobt Jev-Klassifikator für Multi-Modell-Inferenz-Routing
Entwickler Chris Dukes sagt, dass der Jev-Klassifikator von TypeSafe gut funktioniert und sich für das Routing zu mehreren gleichzeitig bereitgestellten Modellen zur Inferenzzeit eignet, jedoch durch 8 GB VRAM eingeschränkt ist.
Major shoutout to @typesafeai ; #Jev the #classifier works a treat, and is going to be great to route to multiple models served at once when it comes inference time... ...or at least, that would be my PROPER use-case if I wasn't kneecapped at 8GB VRAM 🥲🥲 many thanks for the
· 0 likesOpen on X
More like this
Jev ermöglicht LLM-as-a-Judge mit 20–200x Geschwindigkeit und 40–400x geringeren Kosten
Jev wurde verwendet, um zu bestimmen, welches Modell AGI ist, und bietet 20–200x Geschwindigkeit und 40–400x geringere Kosten, wodurch LLM-as-a-Judge extrem schnell und nahezu kostenlos wird.
Apps testen mit TypeSafe Jev & OpenCode
Filip teilt eine kleine Demo, die zeigt, wie schnell App-Tests mit TypeSafe Jev und OpenCode sein können.
