Criando um classificador de código com Jev
Um desenvolvedor compartilha a criação de um classificador de código com Jev, sugerindo que pode resolver código superengenheirado por agentes, e pergunta o que testar a seguir.
Modelo local Laya de 421M supera Jev na nuvem em velocidade
Laya é um modelo de decisão System 1 de código aberto que roda localmente com 421M parâmetros, ~1GB de memória de inferência, 86,5 decisões/seg, P50 ~9ms, pontuação 46; comparado ao Jev: 3,2 decisões/seg, 317ms de ida e volta da API, pontuação 1.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev permite LLM-as-a-Judge com 20–200x mais velocidade e 40–400x menos custo
Jev foi usado para escolher qual modelo é AGI, oferecendo 20–200x mais velocidade e 40–400x menos custo, tornando o LLM-as-a-judge extremamente rápido e quase gratuito.
Testando apps com TypeSafe Jev e OpenCode
Filip compartilha uma pequena demo mostrando a rapidez de testar apps com TypeSafe Jev e OpenCode.
