El autor muestra modelos compactos estilo Jev construidos sobre Qwen3.5 (0.8B–9B), con 4B/9B que caben en una Mac de 32GB, compatibles con CUDA y ROCm, y que respondieron a un ticket de soporte en 495ms con probabilidades.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML
El autor comparte una experiencia con Jev: al principio parecía complicado, pero encajó al entenderlo como 'no dejar que la IA escriba texto'. Con la gestión de consultas como ejemplo, el enfoque convencional vuelca todo en GPT o Claude para analizarlo, mientras que Jev plantea un enfoque distinto.
El prototipo usa IA para estimar la duda o el interés a partir de los movimientos del cursor o la pausa antes de hacer clic, observando el comportamiento del cliente y complementando explicaciones o sugiriendo comparaciones.
El autor creó una demo de atención al cliente en tiempo real para comercio electrónico con Jev y gpt-live-1, que sugiere productos recomendados al instante según el habla del usuario durante la conversación, brindando una gran experiencia.
