El autor explora si los modelos Jev y Laya pueden ayudar a un agente de soporte a preparar el contexto mientras el usuario escribe su mensaje, utilizando una startup ficticia con 7 documentos.
Explorando qué se puede hacer con Jev y Laya, que (los de moda), me pregunté si podrían ayudar a un agente de soporte a preparar el contexto mientras el usuario escribe su mensaje. El contexto es clave para un LLM, así que armé una startup ficticia con 7 documentos. 🧵
El autor comparte una experiencia con Jev: al principio parecía complicado, pero encajó al entenderlo como 'no dejar que la IA escriba texto'. Con la gestión de consultas como ejemplo, el enfoque convencional vuelca todo en GPT o Claude para analizarlo, mientras que Jev plantea un enfoque distinto.
El prototipo usa IA para estimar la duda o el interés a partir de los movimientos del cursor o la pausa antes de hacer clic, observando el comportamiento del cliente y complementando explicaciones o sugiriendo comparaciones.
El autor creó una demo de atención al cliente en tiempo real para comercio electrónico con Jev y gpt-live-1, que sugiere productos recomendados al instante según el habla del usuario durante la conversación, brindando una gran experiencia.
