Der Autor zeigt kompakte Jev-artige Modelle auf Basis von Qwen3.5 (0,8B–9B), wobei 4B/9B in einen 32GB-Mac passen, CUDA und ROCm unterstützt werden und ein Support-Ticket in 495 ms mit Wahrscheinlichkeiten beantwortet wurde.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML
Der Autor teilt eine Jev-Erfahrung: Zunächst wirkte es knifflig, doch mit der Denkweise 'die KI keinen Text schreiben lassen' wurde es plötzlich klar. Am Beispiel der Anfragenbearbeitung wird der übliche Ansatz, alles an GPT oder Claude zum Analysieren zu geben, dem anderen Ansatz von Jev gegenübergestellt.
Der Prototyp nutzt KI, um Zögern oder Interesse anhand von Cursorbewegungen oder Verweilen vor dem Klick einzuschätzen, das Kundenverhalten zu beobachten und Erklärungen zu ergänzen oder Vergleiche vorzuschlagen.
Der Autor hat mit Jev und gpt-live-1 eine E-Commerce-Echtzeit-Kundenservice-Demo erstellt, die während des Gesprächs sofort Produktempfehlungen auf Basis der Nutzeräußerung vorschlägt und ein großartiges Erlebnis bietet.
