Jev로 코드베이스 분류기 구축
개발자가 Jev로 코드베이스 분류기를 구축하고 에이전트가 생성하는 과도하게 설계된 코드 문제를 해결할 수 있다고 언급하며 다음 테스트 대상을 묻습니다.
Jev의 오픈소스 대항마 Laya 등장: 비생성형 판단 모델, T4에서 32.8ms/질의
Laya는 Jev의 오픈소스 대안으로, 판단만 반환하는 비생성형 모델입니다. T4에서 질의당 32.8ms, 100개 이상 언어 지원, 완전 무료 및 자체 호스팅 가능. 기존에 LLM으로 매번 추론하던 라우팅·우선순위 판정·가드레일을 경량 모델로 이전해 에이전트 분기 속도를 크게 높입니다.
JevにOSS対抗が速攻で出てきた Laya ・判断だけ返す非生成型モデル ・T4で32.8ms/問 ・100言語以上 ・完全無料・自前運用可 LLMで毎回考えさせてた振り分け・優先度判定・ガードレールを、この軽量モデルに逃がせる。 エージェント分岐の速度が段違いになるやつ。
· 0 likesOpen on X
More like this
Jev, LLM-as-a-Judge를 20–200배 빠르고 40–400배 저렴하게 구현
Jev는 어떤 모델이 AGI인지 판단하는 데 사용되었으며, 20–200배 속도와 40–400배 저렴한 비용을 제공하여 LLM-as-a-judge를 매우 빠르고 거의 무료로 만듭니다.
TypeSafe Jev와 OpenCode로 앱 테스트
Filip이 TypeSafe Jev와 OpenCode를 사용한 앱 테스트 속도를 보여주는 작은 데모를 공유했습니다.
