Einen Codebase-Klassifikator mit Jev erstellen
Ein Entwickler teilt den Bau eines Codebase-Klassifikators mit Jev, der überentwickelten Code von Agenten lösen könnte, und fragt, was als Nächstes getestet werden soll.
Lokales 421M-Modell Laya übertrifft Cloud-Jev bei Geschwindigkeit
Laya ist ein Open-Source-System-1-Entscheidungsmodell, das lokal läuft: 421M Parameter, ~1GB Inferenzspeicher, 86,5 Entscheidungen/Sek., P50 ~9ms, Score 46; im Vergleich zu Jev: 3,2 Entscheidungen/Sek., 317ms API-Roundtrip, Score 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev ermöglicht LLM-as-a-Judge mit 20–200x Geschwindigkeit und 40–400x geringeren Kosten
Jev wurde verwendet, um zu bestimmen, welches Modell AGI ist, und bietet 20–200x Geschwindigkeit und 40–400x geringere Kosten, wodurch LLM-as-a-Judge extrem schnell und nahezu kostenlos wird.
Apps testen mit TypeSafe Jev & OpenCode
Filip teilt eine kleine Demo, die zeigt, wie schnell App-Tests mit TypeSafe Jev und OpenCode sein können.
