O autor explora se os modelos Jev e Laya podem ajudar um agente de suporte a preparar o contexto enquanto o usuário digita sua mensagem, usando uma startup fictícia com 7 documentos.
Explorando qué se puede hacer con Jev y Laya, que (los de moda), me pregunté si podrían ayudar a un agente de soporte a preparar el contexto mientras el usuario escribe su mensaje. El contexto es clave para un LLM, así que armé una startup ficticia con 7 documentos. 🧵
O autor compartilha uma experiência com o Jev: no início parecia complicado, mas ficou claro ao entendê-lo como 'não deixar a IA escrever texto'. Usando o tratamento de solicitações como exemplo, a abordagem convencional joga tudo no GPT ou Claude para analisar, enquanto o Jev adota uma abordagem diferente.
O protótipo usa IA para estimar hesitação ou interesse a partir dos movimentos do cursor ou da pausa antes do clique, observando o comportamento do cliente e complementando explicações ou sugerindo comparações.
O autor criou uma demonstração de atendimento ao cliente em tempo real para e-commerce com Jev e gpt-live-1, que sugere produtos recomendados instantaneamente com base na fala do usuário durante a conversa, proporcionando uma ótima experiência.
