L'autore ha utilizzato il modello Open-Jev 27B per etichettare una volta 7.999 messaggi nel dataset Banking77, due modelli studenti imparano da queste etichette e 1.000 risposte umane vengono tenute da parte per la valutazione.
The setup is pretty simple. Banking77 is a dataset where you need to route a support message to one of 77 different intents. I used the @Zefan_Cai Open-Jev 27B model to label 7,999 messages once. The two students learn from these labels. Then I kept 1000 human answers out of the
L'autore condivide un'esperienza d'uso di Jev: all'inizio sembrava complicato, ma è diventato chiaro pensandolo come 'non lasciare che l'IA scriva il testo'. Prendendo la gestione delle richieste come esempio, l'approccio convenzionale affida tutto a GPT o Claude per l'analisi, mentre Jev adotta un approccio diverso.
Il prototipo usa l'IA per stimare esitazione o interesse dai movimenti del cursore o dall'indugio prima del clic, osservando il comportamento del cliente e integrando spiegazioni o suggerendo confronti.
L'autore ha creato una demo di assistenza clienti in tempo reale per e-commerce con Jev e gpt-live-1, che suggerisce istantaneamente prodotti consigliati in base al parlato dell'utente durante la conversazione, offrendo un'ottima esperienza.
