Creando un clasificador de código con Jev
Un desarrollador comparte la creación de un clasificador de código con Jev, sugiere que puede resolver código sobrediseñado por agentes y pregunta qué probar después.
El modelo local Laya de 421M supera en velocidad a Jev en la nube
Laya es un modelo de decisión System 1 de código abierto que se ejecuta localmente con 421M parámetros, ~1GB de memoria de inferencia, 86.5 decisiones/seg, P50 ~9ms, puntuación 46; en comparación con Jev: 3.2 decisiones/seg, 317ms de ida y vuelta API, puntuación 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge con 20–200x más velocidad y 40–400x menos costo
Jev se usó para elegir qué modelo es AGI, ofreciendo 20–200x más velocidad y 40–400x menos costo, lo que hace que LLM-as-a-judge sea extremadamente rápido y casi gratis.
Probando apps con TypeSafe Jev y OpenCode
Filip comparte una pequeña demo que muestra la rapidez al probar apps con TypeSafe Jev y OpenCode.
