Dado que la inteligencia artificial (IA) fue el tema recurrente del evento Domino Data RevX 2024 en Londres que tuvo lugar el 13 de junio, la capacitación con usuarios reales y la separación de la IA de la infraestructura de TI se revelaron como áreas que los líderes de TI reconocen como mejores prácticas.
Los líderes de TI tienen muchas opciones al implementar IA para mejorar los procesos comerciales. Pueden crear o comprar capacidades de IA, utilizar interfaces de programación de aplicaciones (API) que brinden acceso a la funcionalidad de IA, ejecutar IA en las instalaciones o utilizar aplicaciones completas de software como servicio (SaaS). Cualquiera que sea el enfoque que se adopte, la formación basada en los datos internos de la organización es clave.
Formación y retroalimentación
En su presentación, Raj Mukherjee, jefe de ciencia de datos e IA de Direct Line Group, explicó cómo la empresa utiliza la IA generativa (GenAI) para impulsar su servicio de recuperación de averías de automóviles GreenFlag. Su presentación mostró los beneficios de involucrar a los usuarios en la creación de modelos de IA más precisos, pero como ocurre con la IA en general, el éxito se basa en una base de datos sólida.
Mukherjee dijo: “Hemos estado trabajando en nuestra estrategia de datos durante casi cuatro años. Ahora estamos ejecutando la estrategia y el 75 % de nuestro negocio está trabajando en una nueva estrategia de datos”.
Esto significa que las capacidades de ingeniería de datos y gobierno de datos de gestión de datos de la empresa son lo suficientemente maduras para respaldar la estrategia de inteligencia artificial de Direct Line a medida que evoluciona.
Al explorar uno de los casos de uso en GreenFlag, Mukherjee dijo: “En el espacio del centro de contacto con el cliente, estamos tratando de ver cómo la IA puede aumentar los agentes de nuestro centro de contacto quitándoles parte de la carga cognitiva”.
La idea general es proporcionar información detallada para permitir que el personal del centro de contacto resuelva los problemas de los clientes más rápidamente. Al utilizar la IA para respaldar su trabajo, Mukherjee dijo que el personal del centro de contacto también puede concentrarse más en empatizar con los clientes, especialmente dado que los clientes generalmente no se encuentran en un lugar feliz cuando necesitan llamar al servicio de recuperación de averías.
En términos de datos de capacitación, dijo que la compañía utilizó el chat web del centro de contacto y transcripciones sin información de identificación personal eliminada. “Solo teníamos la conversación y los datos del flujo de clics de nuestro sitio web. Estas fuentes de datos se utilizaron para ejecutar nuestros análisis”.
Mukherjee añadió que los agentes del centro de llamadas formaban parte del equipo de pruebas. “A medida que evaluamos la calidad de la respuesta del modelo de IA, pudimos realizar la ingeniería muy rápidamente”, dijo.
Para Mukherjee, esto significó que las respuestas que surgió de su modelo de IA mejoraron de una precisión del 68 % al 88 %. Dijo que la mejora en la precisión se logró “simplemente incorporando la intención del agente del centro de llamadas en las indicaciones de respuesta; ni siquiera hicimos ningún ajuste fino”.
Desacoplar la IA de la TI
Más allá de involucrar al personal del centro de llamadas en la capacitación, Sebastien Conort, científico jefe de datos de BNP Paribas Cardif, aprovechó su presentación para explorar los beneficios que los líderes de TI pueden lograr si se aseguran de que los sistemas de IA que construyen e implementan sean lo suficientemente sólidos como para soportar los cambios en sus procesos. Modelos de IA e infraestructura de IA. Recomendó que los líderes de TI intenten desacoplar su IA y TI de manera que a medida que la parte de IA de un proyecto evolucione, la TI no tenga que cambiar.
“TI es responsable de desacoplar los componentes, exponer de forma segura los servicios, el almacenamiento, la interfaz de usuario y la orquestación”, dijo. “La IA es responsable del procesamiento previo y posterior, la orquestación de los pasos de la IA y la evolución del modelo”.
En el lado de la IA, Conort también recomendó que los tomadores de decisiones de TI utilicen canalizaciones como SciKit-learn y un marco independiente de la plataforma para la inferencia de modelos como Cuda, Hugging Face, Tensorflow, MMLabs y PaddlePaddle.
Finalmente, para mantener los costos “aceptables”, Conort sugirió que los líderes de TI consideren el uso de software de código abierto al desarrollar sus productos impulsados por IA.