De auteur toont compacte Jev-stijl modellen gebaseerd op Qwen3.5 (0.8B–9B), waarbij 4B/9B in een 32GB Mac passen, CUDA en ROCm ondersteunen, en een supportticket in 495ms met kansen beantwoorden.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML
De auteur deelt een Jev-ervaring: het leek eerst lastig, maar werd duidelijk bij de gedachte 'laat de AI geen tekst schrijven'. Met de afhandeling van vragen als voorbeeld: de conventionele aanpak gooit alles naar GPT of Claude voor analyse, terwijl Jev een andere aanpak volgt.
Het prototype gebruikt AI om aarzeling of interesse te schatten uit cursor bewegingen of talmen voor het klikken, observeert het klantgedrag en vult uitleg aan of suggereert vergelijkingen.
De auteur bouwde een e-commerce realtime klantenservice-demo met Jev en gpt-live-1, die tijdens een gesprek direct aanbevolen producten voorstelt op basis van de spraak van de gebruiker, wat een geweldige ervaring oplevert.
