Jev와 텍스트 생성 모델의 차이
Jev는 자유 형식 텍스트를 생성하지 않습니다. Diogo는 병렬 의사결정과 토큰 단위 텍스트 생성의 차이를 비교 영상으로 설명합니다.
Jev 오픈소스: 단일 순전파로 타입 지정 질문에 답변
작성자는 Spark에서 LLM 옆에 두 번째 모델을 배치했다. 이 모델은 텍스트를 쓰지 않고 상태와 타입 지정 질문을 받아 단일 순전파로 각 질문에 확률과 함께 답한다. Jev의 오픈소스 버전이며 macOS와 Nvidia 환경에 설치할 수 있다.
I put a second model next to the LLM on my Spark. It does not write text. You send it a state and typed questions, and it answers every one of them in a single forward pass, each with a probability. Yes it is Jev the open source version. It can be installed on macOS, any Nvidia
· 35 likesOpen on X
More like this
가격, 평가, 그리고 Jev 이름의 유래
출시 스레드는 code + AI 워크플로 평가, 출시 당시 입력 가격, 무료 출력 토큰을 설명합니다.
Jev 모델: 의사결정용 확률 생성, LLM보다 200배 빠르고 400배 저렴
이 모델은 텍스트 생성이 아닌 의사결정을 위해 설계되어, 토큰 단위 응답 대신 각 선택지의 확률을 병렬로 출력한다. 일반 LLM과 이 Jev 모델의 간단한 비교 예시를 제시한다.
