Jev 활용 팁: AI가 텍스트를 쓰지 않게 하면 문의 처리가 명확해진다
작성자가 Jev 사용 경험을 공유한다. 처음에는 까다롭게 느껴졌지만 'AI가 텍스트를 쓰지 않게 한다'는 관점으로 이해하니 갑자기 명확해졌다. 문의 처리를 예로 들면 기존에는 GPT나 Claude에 전체를 던져 분석하게 하지만 Jev는 접근 방식이 다르다.
작성자는 Qwen3.5 기반의 소형 Jev 스타일 모델(0.8B~9B)을 노트북에서 실행했으며, 4B/9B는 32GB Mac에 적합하고 CUDA와 ROCm을 지원합니다. 495ms 만에 확률과 함께 지원 티켓에 응답했습니다.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML