Creare un classificatore di codebase con Jev
Uno sviluppatore condivide la creazione di un classificatore di codebase con Jev, suggerendo che può risolvere codice sovraingegnerizzato dagli agenti, e chiede cosa testare dopo.
Il modello locale Laya da 421M batte Jev cloud in velocità
Laya è un modello decisionale System 1 open source che gira localmente con 421M parametri, ~1GB di memoria di inferenza, 86,5 decisioni/sec, P50 ~9ms, punteggio 46; rispetto a Jev: 3,2 decisioni/sec, 317ms di round-trip API, punteggio 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev consente LLM-as-a-Judge a 20–200x più veloce e 40–400x meno costoso
Jev è stato usato per scegliere quale modello è AGI, offrendo 20–200x più velocità e 40–400x meno costo, rendendo LLM-as-a-judge estremamente veloce e quasi gratuito.
Testare app con TypeSafe Jev e OpenCode
Filip condivide una piccola demo che mostra la velocità di test delle app con TypeSafe Jev e OpenCode.
