Jev와 텍스트 생성 모델의 차이
Jev는 자유 형식 텍스트를 생성하지 않습니다. Diogo는 병렬 의사결정과 토큰 단위 텍스트 생성의 차이를 비교 영상으로 설명합니다.
가격, 평가, 그리고 Jev 이름의 유래
출시 스레드는 code + AI 워크플로 평가, 출시 당시 입력 가격, 무료 출력 토큰을 설명합니다.
출시 스레드는 code + AI 워크플로 평가, 출시 당시 입력 가격, 무료 출력 토큰을 설명합니다.
· 3.6천 likesOpen on X
More like this
Jev 모델: 의사결정용 확률 생성, LLM보다 200배 빠르고 400배 저렴
이 모델은 텍스트 생성이 아닌 의사결정을 위해 설계되어, 토큰 단위 응답 대신 각 선택지의 확률을 병렬로 출력한다. 일반 LLM과 이 Jev 모델의 간단한 비교 예시를 제시한다.
Jev 모델, 병렬 연산으로 10억 토큰당 42달러 달성
이 게시물은 Jev가 비트랜스포머 병렬 연산을 사용해 10억 토큰당 42달러의 낮은 비용을 달성한다고 주장하며, ChatGPT와 Anthropic에 미칠 영향, LLM을 인터페이스로, 하네스를 백엔드로 하는 아키텍처 변화를 논의한다.
