Jev 使用心得:不让 AI 写文本,处理咨询更清晰
作者分享使用 Jev 的体会:起初觉得棘手,但把它理解为“不让 AI 写文本”后就豁然开朗。以处理咨询为例,传统做法是把整段内容丢给 GPT 或 Claude 分析,而 Jev 的思路不同。
作者展示了在笔记本上运行的基于 Qwen3.5 的 Jev 风格小型模型(0.8B–9B),4B/9B 可适配 32GB Mac,支持 CUDA 和 ROCm,并以 495ms 的速度和概率回答支持工单。
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML