O autor usou o modelo Open-Jev 27B para rotular 7.999 mensagens do conjunto de dados Banking77 uma vez, dois modelos alunos aprendem com esses rótulos e 1.000 respostas humanas são reservadas para avaliação.
The setup is pretty simple. Banking77 is a dataset where you need to route a support message to one of 77 different intents. I used the @Zefan_Cai Open-Jev 27B model to label 7,999 messages once. The two students learn from these labels. Then I kept 1000 human answers out of the
O autor compartilha uma experiência com o Jev: no início parecia complicado, mas ficou claro ao entendê-lo como 'não deixar a IA escrever texto'. Usando o tratamento de solicitações como exemplo, a abordagem convencional joga tudo no GPT ou Claude para analisar, enquanto o Jev adota uma abordagem diferente.
O protótipo usa IA para estimar hesitação ou interesse a partir dos movimentos do cursor ou da pausa antes do clique, observando o comportamento do cliente e complementando explicações ou sugerindo comparações.
O autor criou uma demonstração de atendimento ao cliente em tempo real para e-commerce com Jev e gpt-live-1, que sugere produtos recomendados instantaneamente com base na fala do usuário durante a conversa, proporcionando uma ótima experiência.
