Cómo evitar que se disparen los costes de la IA

La investigación del analista Gartner ha informado que se espera que el 30% de los proyectos de inteligencia artificial generativa (GenAI) sean abandonados después de la fase de prueba de concepto para fines de 2025, en gran parte debido a desafíos como la mala calidad de los datos, el aumento de los costos y la falta de claridad. Valor de negocio.

Gartner descubrió que los primeros usuarios en todas las industrias y procesos comerciales están reportando una variedad de mejoras comerciales que varían según el caso de uso, el tipo de trabajo y el nivel de habilidad del trabajador. Según la encuesta, los encuestados informaron de un aumento de ingresos del 15,8%, un ahorro de costes del 15,2% y una mejora de la productividad del 22,6% en promedio.

Respecto a la generación de valor a partir de la IA, Eyad Tachwali, director senior de Gartner, dijo: “Cuando se trata de cómo pensar en el valor que se puede generar con la IA generativa, lo primero que tenemos que hacer es analizar las diferentes formas”. que podemos utilizar la IA. Una parte es lo que llamamos IA cotidiana, que básicamente consiste en utilizar la IA para ayudarle a realizar sus tareas existentes mejor, más rápido, más barato y, a veces, con mejor calidad”.

Dijo que el valor de la IA cotidiana se mide en términos de ganancias de productividad.

https://www.youtube.com/watch?v=https://youtu.be/bZDrEmLYT4Q

El otro tipo de IA que ve Gartner es lo que llama IA revolucionaria. “Aquí es donde se utiliza la IA para crear cosas netamente nuevas”, dijo Tachwali. “Entonces, si la IA cotidiana se centra en la productividad, la IA revolucionaria se centra en la creatividad”.

Más contenido para leer:  Más de 5.300 millones de registros de datos expuestos en abril de 2024

Los ejemplos incluyen cuando una empresa farmacéutica utiliza IA para descubrir una nueva molécula que puede usarse para desarrollar un medicamento.

Con las aplicaciones GenAI, dijo, los líderes de TI deben considerar múltiples factores al determinar el costo de las inversiones que deben realizar. “Hay muchas variables”, dijo Tachwali. “Depende de los casos de uso. Depende de la industria. Depende del apetito por el riesgo de la organización”.

Normalmente, las organizaciones pueden buscar resultados rápidos utilizando productos disponibles en el mercado, como ChatGPT o Microsoft Copilot. Dijo que con este tipo de productos, los cálculos de costos son relativamente sencillos ya que se basan en el número de usuarios y el costo de la licencia de software.

Sin embargo, con las innovadoras iniciativas de IA, los costos son más difíciles de calcular. “Tienes las capacidades proporcionadas por los proveedores, que están capacitados en datos públicos, pero también estás utilizando los datos de tu propia organización. Está el costo adicional: los costos de infraestructura de TI; el costo de los datos; los costos de desarrollo de aplicaciones”.

También existen lo que Tachwali llama elementos de costos multiplicativos que, según él, pueden aumentar los costos de funcionamiento. Por ejemplo, junto con los costos de licencia por usuario, los precios basados ​​en tokens a menudo se utilizan para permitir que los tomadores de decisiones de TI mejoren la precisión de las respuestas producidas por un modelo de IA generativa.

Los tokens son palabras o partes de palabras que se pueden introducir en un modelo de lenguaje grande como datos de entrada. “Estos realmente pueden aumentar el costo entre cinco y diez veces”, dijo. “Se vuelve muy variable y es muy difícil de predecir”.

Más contenido para leer:  Recuperación ante desastres de Kubernetes: cinco preguntas clave

Gartner recomienda que los líderes de TI intenten simular los límites superior e inferior del uso de modelos de lenguaje grandes para tener una mejor idea del costo potencial. Luego, esta cifra se puede utilizar para mantener el uso dentro de los límites del umbral y garantizar que los costos de ejecución del modelo no excedan el valor potencial que puede ofrecer.

Nuestro objetivo fué el mismo desde 2004, unir personas y ayudarlas en sus acciones online, siempre gratis, eficiente y sobre todo fácil!

¿Donde estamos?

Mendoza, Argentina

Nuestras Redes Sociales