Jev로 코드베이스 분류기 구축
개발자가 Jev로 코드베이스 분류기를 구축하고 에이전트가 생성하는 과도하게 설계된 코드 문제를 해결할 수 있다고 언급하며 다음 테스트 대상을 묻습니다.
로컬 421M 모델 Laya, 속도에서 클라우드 Jev를 앞서다
Laya는 로컬에서 실행되는 오픈소스 System 1 의사결정 모델로, 421M 파라미터, 약 1GB 추론 메모리, 초당 86.5회 의사결정, P50 약 9ms, 점수 46을 기록했습니다. Jev의 초당 3.2회, 317ms API 왕복, 점수 1과 비교됩니다.
🚨 A LOCAL 421M MODEL JUST ATE CLOUD JEV ON SPEED Laya is an open-source System 1 decision model that runs on your machine. Laya: 86.5 decisions/sec, P50 ~9ms, score 46 Jev: 3.2 decisions/sec, 317ms API round-trip, score 1 Ships with: — 421M params — ~1GB inference memory
· 0 likesOpen on X
More like this
Jev, LLM-as-a-Judge를 20–200배 빠르고 40–400배 저렴하게 구현
Jev는 어떤 모델이 AGI인지 판단하는 데 사용되었으며, 20–200배 속도와 40–400배 저렴한 비용을 제공하여 LLM-as-a-judge를 매우 빠르고 거의 무료로 만듭니다.
TypeSafe Jev와 OpenCode로 앱 테스트
Filip이 TypeSafe Jev와 OpenCode를 사용한 앱 테스트 속도를 보여주는 작은 데모를 공유했습니다.
