Penulis menunjukkan model ringkas gaya Jev berbasis Qwen3.5 (0.8B–9B), dengan 4B/9B muat di Mac 32GB, mendukung CUDA dan ROCm, dan menjawab tiket dukungan dalam 495ms dengan probabilitas.
I RAN A DECISION MODEL ON MY LAPTOP TODAY 1. Kev: tiny Jev-style models built on Qwen3.5, 0.8B up to 9B 2. 4B/9B fit a 32GB Mac, also CUDA and ROCm 3. Answered a support ticket in 495ms with probabilities #OpenSource #LocalAI #ML
Penulis berbagi pengalaman menggunakan Jev: awalnya terasa rumit, tetapi menjadi jelas saat dipahami sebagai 'jangan biarkan AI menulis teks'. Dengan penanganan pertanyaan sebagai contoh, pendekatan konvensional menyerahkan semuanya ke GPT atau Claude untuk dianalisis, sedangkan Jev mengambil pendekatan berbeda.
Prototipe ini menggunakan AI untuk memperkirakan keraguan atau minat dari gerakan kursor atau jeda sebelum mengklik, mengamati perilaku pelanggan dan melengkapi penjelasan atau menyarankan perbandingan.
Penulis membuat demo layanan pelanggan real-time e-commerce dengan Jev dan gpt-live-1, yang langsung menyarankan produk rekomendasi berdasarkan ucapan pengguna selama percakapan, memberikan pengalaman yang luar biasa.
