L'auteur a utilisé le modèle Open-Jev 27B pour étiqueter une fois 7 999 messages de l'ensemble de données Banking77, deux modèles élèves apprennent de ces étiquettes et 1 000 réponses humaines sont conservées pour évaluation.
The setup is pretty simple. Banking77 is a dataset where you need to route a support message to one of 77 different intents. I used the @Zefan_Cai Open-Jev 27B model to label 7,999 messages once. The two students learn from these labels. Then I kept 1000 human answers out of the
L'auteur partage un retour d'expérience sur Jev : cela semblait délicat au début, mais tout s'est éclairé en le comprenant comme « ne pas laisser l'IA écrire le texte ». En prenant le traitement des demandes comme exemple, l'approche classique consiste à tout confier à GPT ou Claude pour analyse, alors que Jev adopte une approche différente.
Le prototype utilise l'IA pour estimer l'hésitation ou l'intérêt à partir des mouvements du curseur ou de l'arrêt avant le clic, en observant le comportement du client et en complétant les explications ou en suggérant des comparaisons.
L'auteur a créé une démo de service client en temps réel pour le e-commerce avec Jev et gpt-live-1, qui suggère instantanément des produits recommandés en fonction de la parole de l'utilisateur pendant la conversation, offrant une excellente expérience.
