IA: de la exploración a la producción: cinco estudios de caso sobre GenAI en acción

El lanzamiento de ChatGPT de OpenAI a finales de 2022 puso en el centro de atención años de investigación clandestina sobre inteligencia artificial (IA). Dos años después de que aparecieran las primeras herramientas de IA generativa (GenAI) disponibles públicamente, el entusiasmo por esta tecnología emergente no muestra signos de disminuir, particularmente en las salas de juntas de primera línea.

El ritmo al que las empresas implementan programas GenAI se duplicó entre diciembre de 2023 y julio de 2024, según Bloomberg Intelligence. Su encuesta muestra que la IA y el aprendizaje automático siguen siendo una prioridad para los CIO y sus pares de la alta dirección, y las empresas invierten en modelos fundamentales, GPU y servicios de nube de soporte.

Sin embargo, otra investigación sugiere que convertir el entusiasmo por la IA en algo útil es mucho más difícil. Según Deloitte, las empresas luchan por llevar los proyectos GenAI a producción. El gigante consultor dice que el 70% de los líderes empresariales han puesto en producción el 30% o menos de sus experimentos de IA.

Peor aún, el analista Gartner ha predicho que el 30% de los proyectos GenAI se abandonarán después de la etapa de prueba de concepto para fines de 2025. Entonces, ¿por qué las organizaciones luchan por aprovechar al máximo la IA? Hablamos con cinco líderes empresariales en la reciente Cumbre Snowflake 2024 en San Francisco para preguntarles cómo los ejecutivos pueden convertir la IA en una ventaja competitiva.

TUI: Obtenga algunos grandes principios

Anastasiia Stefanska, analista de datos para análisis e inteligencia artificial en TUI, está ayudando a su organización a explotar la tecnología emergente. La empresa de vacaciones utiliza Snowflake para crear una plataforma para el cambio basado en datos.

“Yo diría que estamos muy avanzados en el uso de la IA”, afirma Stefanska. “Creemos que podemos lograr mucho. Hemos trabajado en los últimos trimestres en la identificación de casos de uso. Algunos de estos casos están en producción y se está trabajando en otros casos de uso de alto potencial”.

El colega de Stefanska, Bastian Handke, líder del equipo de tecnología de la plataforma de almacenamiento de datos empresariales de TUI, afirma que la empresa utiliza IA generativa para el análisis de datos. La empresa también utiliza chatbots en programas de formación. Estos bots aceleran el proceso de incorporación del nuevo personal. TUI también utiliza Cortex AI, el modelo de lenguaje grande (LLM) de Snowflake.

“Hay muchos casos de uso”, afirma Handke. “Hacemos análisis de sentimiento utilizando funciones de Cortex, como traducir. Nuestros colegas en otros países obtienen respuestas de sus clientes en diferentes idiomas. Analizar esos datos con funciones en Cortex es muy útil”.

Stefanska dice que TUI ha creado documentación oficial para guiar sus exploraciones de IA. Estos artículos incorporan dos principios. En primer lugar, hay un enfoque en la habilitación: la empresa quiere que los empleados se sientan cómodos para sugerir casos de uso. El segundo principio garantiza que los humanos permanezcan informados.

“La decisión es del ser humano”, dice. “La gobernanza de los modelos y las ejecuciones están integradas en la forma en que hacemos las cosas. En TUI entendemos que los chatbots son máquinas. Los tratamos con respeto por su conocimiento acumulado, pero también ponemos un ojo humano en sus procesos”.

Hastings Direct: encuentre las áreas adecuadas para explorar

Sasha Jory, CIO de la aseguradora Hastings Direct, dice que su empresa utiliza IA en varias áreas, incluida la suscripción y la atención de consultas de los clientes. Ella dice que la clave del éxito es garantizar que sus datos estén administrados y sean comprensibles.

“A la IA le encantan los datos”, afirma. “Hay que conseguir todo en un formato que la IA pueda leer, digerir y utilizar. Por ejemplo, hay que convertir las grabaciones en texto para que la IA pueda leer los datos y dar respuestas. Garantizar la colaboración entre nuestro aprendizaje automático, nuestra IA y nuestros datos, en el lugar y formato correctos, es fundamental para el éxito”.

Jory dice que Hastings utiliza el aprendizaje automático impulsado por Azure en la suscripción. La tecnología ha ayudado a la empresa a perfeccionar sus modelos de precios y riesgos. “La tecnología está en producción y funciona muy bien”, afirma.

“Hemos visto una mejora en la velocidad de comercialización en más del 100 %, la cantidad de cambios de suscripción que ahora podemos realizar se ha más que triplicado y la ruta hacia la puesta en marcha es el procesamiento directo totalmente automatizado, lo que hace que las publicaciones sean intradía. y simple de ejecutar”.

“No nos dejamos llevar por las exageraciones. No creemos que la IA sea la panacea para todo. La IA debe usarse en las áreas correctas para mejorar y potenciar el desempeño, y la tecnología debe implementarse de manera cuidadosa y segura”.

Sasha Jory, Hastings directo

Hastings también utiliza Azure e IA para ayudar al personal a redactar cartas de quejas de los clientes. Jory dice que la compañía ha utilizado la tecnología para mejorar la legibilidad de esas letras de una puntuación de 50 sobre 100 a aproximadamente 70. Es más, la puntuación aumenta todo el tiempo.

“Eso nos da un buen resultado para nuestros clientes porque reciben una carta que pueden leer”, afirma. “Es simple y significa que hay menos ida y vuelta con los clientes tratando de entender sus problemas”.

Jory dice que las exploraciones iniciales de Hastings en IA muestran que la tecnología se puede utilizar para hacer que el negocio sea más inteligente. “Ciertamente es algo que estamos analizando todo el tiempo, pero somos muy cautelosos”, afirma.

“No nos dejamos llevar por las exageraciones. No creemos que la IA sea la panacea para todo. La IA debe usarse en las áreas correctas para mejorar y potenciar el desempeño, y la tecnología debe implementarse de manera cuidadosa y segura”.

JP Morgan Chase: Apunte a la coherencia de los datos

Gerard Francis, jefe de producto de datos y análisis de toda la empresa en JP Morgan Chase y jefe de Fusion de JP Morgan, dice que sus primeras exploraciones en IA sugieren que la tecnología resolverá varios desafíos comerciales en datos estructurados y no estructurados.

“Los problemas se comprenden mejor en el mundo no estructurado, ya sean técnicas como la recuperación o la generación aumentada de documentos”, afirma. “Estamos haciendo una variedad de cosas para mejorar la experiencia con datos no estructurados y los casos de uso que puede abordar, desde preguntas de servicio al cliente hasta cuestiones legales”.

Francis dice que la explotación de datos estructurados debería verse como “la próxima ola” de IA. En una industria como la financiera, hay un exceso de datos estructurados y la gente necesita respuestas precisas. Las empresas deben considerar cómo los LLM pueden ayudar a las personas a generar esta información.

“Creo que la evolución continuará”, afirma. “Nos hemos centrado en datos semánticamente correctos desde el principio. Muy, muy pocas personas tienen datos semánticamente consistentes en la industria. Y si no se entiende bien la semántica, el LLM no puede trabajar con los datos”.

Francis explica la semántica con más detalle. Los empleados pueden utilizar códigos diferentes, como “MATUR” o “MAT”, para un término de la industria como madurez. Los LLM tendrán dificultades para comprender lo que significan esos códigos sin dirección. Las definiciones también pueden superponerse.

“El mismo nombre puede significar tres cosas diferentes dependiendo de quién provenga de los datos”, afirma. “Si hace una pregunta, el LLM puede traducirla usando una descripción, pero puede dar una respuesta incorrecta porque tiene una interpretación diferente de esa palabra. JP Morgan trabaja con muchos clientes y muchos datos, por lo que hemos creado una definición común para todos los términos comerciales que alguien usaría en los mercados financieros”.

Esta coherencia semántica está produciendo grandes resultados. “Es una gran inversión por parte de JP Morgan desarrollar esta tecnología. Hemos contratado a algunas de las personas más talentosas de la industria para que funcione”, dice Francis.

“Existimos para hacer felices a nuestros clientes y asegurarnos de brindarles un excelente servicio. Para nosotros, la IA se trata de hacer esa inversión con miras al futuro y seguir creciendo”.

Scania: más rápido y sencillo

Ulf Holmström, científico de datos principal del Grupo Scania, afirma que su empresa está interesada en aprovechar al máximo la IA. Su equipo garantiza que la empresa se centre en las áreas adecuadas.

“Hemos explorado GenAI, pero aún no está en producción”, afirma. “Hemos comenzado con procesos de soporte interno, en lugar de procesos de cara al cliente. Sin embargo, lo que se puede hacer con esta tecnología es alucinante”.

Holmström afirma que Scania está explorando GenAI a través de la tecnología Amazon Web Services (AWS). La empresa lleva un año realizando exploraciones y ha obtenido algunos “buenos resultados”. Scania también está interesada en las tecnologías que está desarrollando Snowflake, en particular Cortex.

“Según mi experiencia, si Snowflake cumple sus promesas, entonces podremos crear aplicaciones generativas de forma más rápida y sencilla”, afirma. “Estoy impresionado porque hemos estado trabajando duro con AWS Bedrock. Snowflake está añadiendo otra capa de abstracción a la tecnología de los proveedores de la nube”.

Scania utiliza una malla de datos construida sobre la plataforma de Snowflake para generar servicios basados ​​en información para los clientes. Hoy en día, la empresa tiene alrededor de 60 cuentas de Snowflake. Holmström desea explorar cómo esta fundación puede crear una plataforma confiable para la IA.

“Con nuestra malla, sabemos que podemos confiar en nuestros datos”, afirma. “Podemos concentrarnos en resolver problemas comerciales y dejar que Snowflake y AWS se ocupen de la pila tecnológica. Es casi como una IA de autoservicio”.

Eutelsat: Identifique sus desafíos clave

Miguel Morgado, propietario senior de productos para el centro de rendimiento del Grupo Eutelsat, dice que la mayoría de los proyectos de inteligencia artificial de la compañía satelital se centran en la predicción de interrupciones y el análisis de la causa raíz. Uno de los casos de uso clave es la predicción del tiempo.

“Los fenómenos meteorológicos, como un ciclón, una tormenta o una lluvia intensa, pueden afectar las antenas parabólicas”, afirma. “Todos los operadores de satélites tienen mitigaciones, como aumentar la potencia de la señal durante las fuertes lluvias. Los datos meteorológicos en tiempo real pueden ayudarnos a predecir cuándo afectará el clima a los terminales de los usuarios en cada región y brindar el mejor servicio al cliente”.

Eutelsat da garantías de servicio a sus clientes. Los datos y la inteligencia artificial pueden ayudar a la empresa a garantizar que cumple con los acuerdos de nivel de servicio. Morgado explica cómo su organización introduce fuentes de datos en Snowflake y ejecuta algoritmos para generar información.

“Todo lo hacemos nosotros internamente”, afirma. “No utilizamos ChatGPT, Mistral ni nada más. Planeamos utilizar Cortex para ciertos casos de uso. Trabajaremos en esa área durante los próximos seis meses. Ya estamos haciendo una prueba de concepto. Estamos probando el terreno”.

Morgado dice que las exploraciones de su empresa en IA sugieren que es necesario superar los desafíos. Una de las cuestiones clave es garantizar que la empresa tenga acceso a un gráfico de conocimiento, una colección de descripciones interconectadas de entidades que pone los datos en contexto y permite el análisis y la colaboración.

“El problema con la IA es que es fácil decir: ‘Dime cómo está mi satélite’. Y el sistema dirá: “Está en servicio”. Sin embargo, es difícil preguntar: “¿Cómo está el rendimiento de nuestra red en Londres?” Esa pregunta es difícil de responder porque necesitas un gráfico de conocimiento además de tus datos y la IA”.

Morgado dice que Eutelsat está trabajando con RelationAI para explorar cómo se ejecuta su gráfico de conocimiento en la plataforma Snowflake: “Uno de los grandes desafíos para nosotros es cómo podemos usar la IA y los gráficos de conocimiento, y eso es lo que estamos probando”.

Exit mobile version