Jev와 텍스트 생성 모델의 차이
Jev는 자유 형식 텍스트를 생성하지 않습니다. Diogo는 병렬 의사결정과 토큰 단위 텍스트 생성의 차이를 비교 영상으로 설명합니다.
Kev-0.6B Jev급 의사결정 모델, Apple Neural Engine에서 단일 순전파 실행
Kev-0.6B는 Apple Neural Engine에서 실행되는 Jev급 의사결정 모델이다. 단일 순전파로 토큰 생성이 없으며, 결정당 7.18ms, p99는 7.53ms이다. 배치는 아직 단정되지 않았고 세 가지 방식으로 측정된다. CPU만 사용하면 0을 반환하고, Apple의 xctrace Neural Engine 계측기는 303을 센다.
Kev-0.6B, a Jev-class decision model, running on the Apple Neural Engine. One forward pass, no token generation. 7.18 ms per decision, p99 7.53. Placement isn't asserted yet, it's measured three ways: CPU-only returns zeros, Apple's xctrace Neural Engine instrument counts 303
· 1 likesOpen on X
More like this
가격, 평가, 그리고 Jev 이름의 유래
출시 스레드는 code + AI 워크플로 평가, 출시 당시 입력 가격, 무료 출력 토큰을 설명합니다.
Jev 모델: 의사결정용 확률 생성, LLM보다 200배 빠르고 400배 저렴
이 모델은 텍스트 생성이 아닌 의사결정을 위해 설계되어, 토큰 단위 응답 대신 각 선택지의 확률을 병렬로 출력한다. 일반 LLM과 이 Jev 모델의 간단한 비교 예시를 제시한다.
