De auteur gebruikte het Open-Jev 27B-model om 7.999 berichten in de Banking77-dataset één keer te labelen. Twee studentmodellen leren van deze labels en 1.000 menselijke antwoorden worden achtergehouden voor evaluatie.
The setup is pretty simple. Banking77 is a dataset where you need to route a support message to one of 77 different intents. I used the @Zefan_Cai Open-Jev 27B model to label 7,999 messages once. The two students learn from these labels. Then I kept 1000 human answers out of the
De auteur deelt een Jev-ervaring: het leek eerst lastig, maar werd duidelijk bij de gedachte 'laat de AI geen tekst schrijven'. Met de afhandeling van vragen als voorbeeld: de conventionele aanpak gooit alles naar GPT of Claude voor analyse, terwijl Jev een andere aanpak volgt.
Het prototype gebruikt AI om aarzeling of interesse te schatten uit cursor bewegingen of talmen voor het klikken, observeert het klantgedrag en vult uitleg aan of suggereert vergelijkingen.
De auteur bouwde een e-commerce realtime klantenservice-demo met Jev en gpt-live-1, die tijdens een gesprek direct aanbevolen producten voorstelt op basis van de spraak van de gebruiker, wat een geweldige ervaring oplevert.
