Los crecientes impactos ambientales de los sistemas de inteligencia artificial generativa (GenAI) pueden reducirse significativamente si las empresas “eligen el modelo correcto” para sus casos de uso e implementan prácticas sostenibles a lo largo de su ciclo de vida, según el Instituto de Investigación Capgemini.
capgemini‘s Desarrollando GenAI sostenible El informe señaló que, para los últimos modelos de transformadores de preentrenamiento generativo (GPT), el entrenamiento por sí solo equivale aproximadamente al consumo de energía anual de 5.000 hogares estadounidenses, y se necesita “una cantidad igual o mayor de energía” para luego ejecutar el modelo. operativamente en un contexto empresarial.
Esto significaba que una consulta a un modelo de lenguaje grande (LLM) requería 10 veces más electricidad que una búsqueda en Google.
Añadió que, en el lapso de un año, el número de organizaciones que han integrado GenAI en sus productos y servicios ha aumentado del 6% al 24%. Además, estimó que para 2026, GenAI representaría el 4,8% de las emisiones totales de gases de efecto invernadero de una organización, frente a la tasa actual del 2,6%.
Capgemini también dijo que usar un LLM para ejecutar una inferencia de 20 a 50 consultas usa alrededor de 500 ml de agua cada vez, y que GenAI podría crear entre 1,2 y cinco millones de toneladas métricas de desechos electrónicos para 2030; alrededor de 1.000 veces más desechos electrónicos que los que se producirán en 2023.
“El aumento en el consumo de energía impulsado por la IA generativa está provocando un aumento significativo de las emisiones, que se espera que casi se dupliquen como proporción de las huellas de carbono de las organizaciones dentro de dos años”, dijo Vincent Charpiot, director del Group Sustainability Business Accelerator de Capgemini. “Es urgente que las empresas integren la sostenibilidad en sus estrategias de IA.
“Al aprovechar modelos más pequeños, energía renovable y prácticas transparentes de los proveedores de IA y GenAI, podemos mitigar los impactos ambientales y al mismo tiempo aprovechar la IA para impulsar tanto la innovación como la sostenibilidad”.
Impacto ambiental
Desde la producción de unidades de procesamiento de gráficos (que requieren la extracción de metales de tierras raras) hasta el entrenamiento de los modelos para operar enormes centros de datos, todos estos pasos contribuyen significativamente al impacto ambiental de la tecnología.
Para la mayoría de las organizaciones, el uso de productos y servicios GenAI entra dentro de sus emisiones de Alcance 3, que se refieren a las emisiones indirectas de gases de efecto invernadero que ocurren fuera de las operaciones de una empresa, pero que aún son resultado de sus actividades.
Sin embargo, Capgemini dijo que tomar las decisiones correctas en varias etapas del ciclo de vida de un modelo (incluyendo la elección del hardware, la arquitectura del modelo, la fuente de energía para los centros de datos y su caso de uso final) puede reducir significativamente el impacto ambiental.
Agregó que las empresas deberían considerar si necesitan tecnologías GenAI que consuman mucha energía en los casos en que podrían usar modelos más eficientes en recursos para obtener un resultado similar.
“Todo el mundo quiere hacer algo con IA generativa, pero muchas veces ni siquiera la necesita”, dijo Vishal Singhvi, director de IA generativa de Microsoft. “Esto se puede hacer muy bien con la IA tradicional, que consume mucha menos potencia informática y cargas de trabajo”.
Pequeños modelos de lenguaje
Por lo tanto, las organizaciones deben tener en cuenta si las tareas se pueden completar utilizando modelos de lenguaje pequeño (SLM), que se entrenan con conjuntos de datos más pequeños y específicos en comparación con un LLM.
Capgemini dijo que esto no sólo puede reducir significativamente las emisiones, sino también los costos. Según Arthur Mensch, director ejecutivo de Mistral AI: “Los modelos más pequeños significan que la ejecución de las aplicaciones es menos costosa y, lo que es más importante, si tiene un modelo que es 100 veces más pequeño, puede llamarlo 100 veces más por el mismo costo, aportando un poco más de inteligencia a su aplicación con cada llamada. “
Para Mauli Tikkiwal, miembro de la junta directiva de Orchard Hill College and Academy Trust, con sede en el Reino Unido, es vital que las organizaciones sean conscientes de cómo el uso de GenAI está contribuyendo a los impactos ambientales negativos. “Primero, hay que identificar el impacto para poder rastrearlo y reducirlo”, dijo.
Sin embargo, si bien monitorear y rastrear las emisiones es primordial, solo el 14% de los encuestados por Capgemini dijeron que sus empresas miden y rastrean su huella GenAI.
Tres cuartas partes de los ejecutivos citaron la “transparencia limitada” de los proveedores como un desafío a la hora de medir el impacto ambiental. “Esperan que el sector tecnológico lidere los esfuerzos” para facilitar ese objetivo, según el informe.
A pesar de estas tendencias, Capgemini destacó cómo algunas empresas de tecnología están abordando la tecnología de manera sostenible.
Señaló, por ejemplo, que las últimas GPU de Nvidia son 30 veces más eficientes que sus versiones anteriores; que LiquidAI, una startup derivada del MIT, ha desarrollado técnicas de algoritmos “adaptativos y que consumen menos energía”; y que Microsoft ha introducido funciones de monitoreo de energía en sus LLM.
Además, destacó un acuerdo firmado por Meta para comprar energía geotérmica para proporcionar energía a sus centros de datos en EE. UU., así como Google Carbon Sense Suite, que es “una colección de funciones que facilita informar con precisión sus emisiones de carbono y reducirlas”. .
Durante la Cumbre de IA de Londres en junio de 2024, los expertos en sostenibilidad dijeron que, si bien la tecnología se puede implementar de varias maneras para ayudar a las empresas a ser más sostenibles ambientalmente, debe haber un reconocimiento de los impactos claramente negativos que está teniendo actualmente en el planeta.
Dijeron que si bien podría ayudar a las empresas a gestionar mejor sus emisiones de Alcance 3 al vincular fuentes de datos y hacerlas más legibles, estas emisiones pueden ser difíciles de rastrear dada la forma diferente en que las organizaciones recopilan, administran y comparten sus datos.