Yazar, Qwen3.5 üzerine inşa edilmiş (0.8B–9B) kompakt Jev tarzı modelleri gösteriyor; 4B/9B 32GB Mac'e sığıyor, CUDA ve ROCm destekliyor ve 495ms içinde olasılıklarla bir destek talebini yanıtlıyor.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML
Yazar Jev kullanım deneyimini paylaşıyor: Başta karmaşık görünse de 'AI'nın metin yazmasına izin vermemek' olarak düşününce aniden netleşti. Soru işlemeyi örnek vererek, geleneksel yaklaşım her şeyi GPT veya Claude'a analiz ettirirken Jev farklı bir yaklaşım izliyor.
Prototip, imlecin ileri geri hareketlerinden veya tıklamadan önce duraksamasından müşterinin tereddüdünü veya ilgisini tahmin etmek için yapay zeka kullanır, müşteri davranışını gözlemler ve açıklamaları tamamlar veya karşılaştırmalar önerir.
Yazar, Jev ve gpt-live-1 kullanarak e-ticaret gerçek zamanlı müşteri hizmetleri demosu oluşturdu; konuşma sırasında kullanıcının konuşmasına göre anında önerilen ürünler sunarak harika bir deneyim sağlıyor.
