En el evento Leap 2025 de Arabia Saudita en febrero, el reino anunció una gran inversión en inteligencia artificial (IA), mientras que el elemento de la conferencia del programa se especializó en gran medida en preguntas clave sobre la IA. Estos variaron desde los siguientes pasos, como obtener el valor comercial de la IA empresarial, hasta los desafíos en el desarrollo de la IA agente, así como el futuro más lejano en robótica e IA causal.
También se abordó la necesidad de centrarse en cómo la IA cambiará la sociedad y en cómo garantizar que sea una fuerza para el bien en lugar de una que socava la coherencia social.
La IA agente necesita sentido común
Yaser al-Aizan, CEO del Centro Nacional para la IA en los datos sauditas y la Autoridad de AI (SDAIA), se centró en la IA agente como el siguiente paso, como en la IA que funciona en nuestro nombre.
“Los modelos de idiomas grandes [LLMs] Comprenda cómo se construye el lenguaje, las secuencias que generan las personas ”, dijo. “Pero la promesa de IA es que estará en todo lo que hacemos y tocamos todos los días. Pero debe ser invisible. No puede estar en tu cara: debería estar escuchándote, entendiéndote y haciendo las cosas basadas en tu opinión, sin siquiera preguntarte a veces.
“Entonces, por ejemplo, puede interactuar con un modelo y, en lugar de simplemente darle información sobre vuelos, puede continuar y reservar vuelos o hacer una reserva de hotel para usted”.
Pero, dijo Al-Zonizan, el desafío es que la IA trabaje en nombre de los humanos y haga que las cosas estén bien, comprendan el “sentido común”, de modo que las decisiones tomadas de manera autónoma con lo que es práctico para aquellos en cuyo nombre funciona.
AI agente a la IA causal
Mientras tanto, Lamia Youseff, fundadora de Jazz Computing, es una líder de pensamiento de la industria en IA y Cloud, con un CV que incluye Google, Microsoft, Facebook y Apple, e instituciones de investigación académica, incluidas Stanford, MIT y UCSB.
Ella dice que podemos ver la IA en varias fases y los puntos de inflexión:
Enterprise AI, para la cual Big Data lideró el camino al reunir grandes cantidades de datos para el análisis. Enterprise AI presenta optimizaciones y ha traído “un tsunami de nuevos productos y servicios”.
AGENIC AI: el siguiente paso para los próximos dos años traerá a los agentes que trabajan en nuestro nombre, tomando comandos, conversando con LLMS, dividiendo los comandos en pasos y tomando acciones.
Robótica y humanoides, que requerirán una gran innovación en las comunicaciones y la comprensión de la máquina del lenguaje humano para combinar LLM y robótica, como en autos sin conductor, y críticamente, con la capacidad de interactuar en un mundo 3D.
AI causal: donde la IA puede predecir eventos de mundo real increíblemente complejos, como las fluctuaciones del mercado de valores.
En otros lugares, los oradores se centraron en cómo obtener el valor comercial de la IA. Esto incluyó a Aiden Gómez, CEO de Canadian Company Cohere, que se especializa en el uso de LLM en empresas.
Su enfoque está en hacer que las LLM sean útiles para las empresas al ayudar a construir una pila de aplicaciones que las haga uso.
“Debes ser técnico, debes ser un desarrollador, para poder construir algo sobre este modelo para crear valor en el otro lado”, dijo.
Los desafíos incluyen poder reducir las barreras para que la IA pueda integrarse con los sistemas internos y la seguridad, donde la IA sale de la fase de prueba de concepto y toca los datos de los clientes más confidenciales.
“Lo más importante que el mundo empresarial necesita son buenas soluciones que puedan enchufarse y irse”, dijo. “La barrera es que las empresas adopten AI de forma segura, lo que significa implementaciones completamente privadas. Entonces podemos comenzar a cambiar el trabajo que los humanos están haciendo en estos modelos. Para tener éxito, deben poder usar los sistemas que los humanos hoy usan para hacer su trabajo e integrar IA generativa con el software y los sistemas internos “.
Gómez agregó: “Cuando las personas solo estaban probando la tecnología, la pieza de seguridad no era tan importante, porque no estaban poniendo datos críticos de la misión en esos sistemas. Ahora, nos estamos mudando de la fase de prueba de concepto y vamos a producción, y estos modelos están tocando los datos de los clientes más sensibles, por lo que la seguridad está en la mente “.
Él también señaló a la IA Agente como la siguiente etapa y los desafíos que deben resolverse. El primero es el uso de modelos de razonamiento y el segundo es aprender de la experiencia.
“Solo piense en qué es el razonamiento”, dijo Gómez. “Lo que sucede ahora es que puede preguntarle al modelo qué es 1+1, o puede pedirle que pruebe el último teorema de Fermat, y el modelo pasaría la misma cantidad de tiempo respondiendo ambas preguntas, lo que no tiene sentido.
“Con el razonamiento, puede gastar diferentes cantidades de energía en diferentes dificultades y problemas. Así que ahora podemos abordar las cosas dramáticamente de manera más eficiente, pero de manera más efectiva. Esa es un desbloqueo importante para la IA de agente. Desea que los agentes puedan pensar en los problemas y realmente razonar al respecto ”, agregó.
“Lo segundo es aprender de la experiencia. Entonces, con un humano, cuando les dices: ‘Hiciste algo mal. Aquí le mostramos cómo solucionarlo ‘, recuerdan eso y aprenden para siempre a no cometer el mismo error. Cuando los modelos tienen esa capacidad de aprender de la experiencia con el usuario, desbloqueará la capacidad de enseñar su propio modelo simplemente interactuando con él ”.
AI: No debemos ser pasivos a los peligros
Finalmente, Lambert Hogenhout, jefe de datos, análisis y tecnologías emergentes en las Naciones Unidas, advirtió sobre los peligros de la IA a la sociedad humana si somos pasivos en nuestro enfoque. En otras palabras, la IA tiene la capacidad de socavar la agencia humana e incluso ser una fuerza que puede trabajar contra nosotros si no está controlada.
En su opinión, los riesgos clave planteados por la IA incluyen amenazas a:
Autonomía: en la que la IA te hace más competente, casi perfecto, pero significa que luego te ves obligado a interactuar con la IA para ser la persona que te hace.
Identidad: en la que AI incluso tiene la capacidad de construir una réplica de la personalidad de alguien si tiene suficiente información sobre la persona. Se necesita robo de identidad a un nuevo nivel.
Propósito: donde si la IA reemplaza muchos trabajos, ¿qué queda para los humanos y cómo nos aseguramos de centrarnos en lo que los humanos son buenos, como la cooperación y la creatividad?
Felicidad y conexión con la sociedad: es muy importante que los humanos se sientan felices y conectados con la sociedad. Si eso está socavado, habrá problemas.
“La IA nos está dando muchas formas de mejorar nuestro negocio y nuestra vida privada”, dijo Hogenhout. “Pero a largo plazo, digamos 20 años, creo que nadie predijo cómo se verá el mundo dentro de 20 años.
“Algunas personas tienen una visión muy positiva, donde los robots hacen el trabajo y podemos pasar nuestros días jugando al golf o viendo películas interesantes. Pero la visión distópica dice que perderemos nuestro propósito en la vida, y para los humanos se volverá bastante miserable, excepto por algunos multimillonarios de IA “.
Hogenhout señaló cómo los teléfonos inteligentes han cambiado todo y cómo es probable que la IA haga lo mismo.
Primero, habló sobre el tema de la autonomía.
“Siempre quise ser más divertido cuando respondo a los mensajes de mis amigos. He querido ser más elocuente cuando escribo correos electrónicos a mi jefe. Y ya sabes, puedo con la ayuda de AI. Pero significa que confío en la IA para cada comunicación, y cuando todos hacen eso, cuando todos son perfectos, ¿pueden permitirse no usarla, para ser el único humano no acuático? Nos veremos obligados a aumentarnos con AI “.
Y por identidad, Hogenhout habló sobre cómo la IA tiene el potencial de clonar exhaustivamente la personalidad de un ser humano.
“¿Qué pasa si alguien toma todo lo que he escrito (correos electrónicos, publicaciones, todo, y sabe cómo responder como yo? Pero en realidad hay compañías que ya lo hacen.
“Hay una aplicación llamada en adelante que está destinada a las personas mayores. Su abuelo, por ejemplo, puede ser entrevistado y la información agregada sobre su vida. Luego, una vez que el abuelo muere, en su teléfono hay la voz del abuelo y puede preguntarle cosas como lo que está sucediendo con el Super Bowl o un partido de fútbol y responde exactamente como lo haría el abuelo “.
Eso obliga a la pregunta, dijo Hogenhout, de lo que nos distingue si es tan fácil replicar la identidad hasta el nivel de voz, de las opiniones.
Por el momento, somos demasiado pasivos. Estamos esperando que salga el próximo sistema de IA increíble. No estamos pensando en cómo esto va a afectar nuestras vidas
Lambert Hogenhout, Naciones Unidas
Finalmente, Hogenhout miró el propósito.
“El significado en nuestras vidas proviene del trabajo que hacemos, pero ya está claro que muchos trabajos serán reemplazados. Es cierto, hacemos cosas tontas la mayor parte del tiempo, pero tenemos habilidades y habilidades increíbles ”, dijo.
“Lo que nos hace bastante únicos como especie es nuestra creatividad. También existe esta sensación de no aceptar la realidad tal como es. Pero, no solo somos innovadores. Creo que somos muy buenos para cooperar. Hay una razón por la que todos estamos juntos aquí en esta conferencia, porque queremos aprender unos de otros. Estas conexiones son muy importantes en la sociedad.
“Es importante para nosotros tomar decisiones y sentir satisfacción. Queremos asegurarnos de que la IA aumente las conexiones vivas, que no seamos eliminados, que sea una buena sociedad. Una sociedad donde se excluyen a varias personas no va a funcionar. Creará problemas ”, agregó Hogenhout.
Su conclusión es que la IA nos cambiará de manera importante, pero debemos asegurarnos de actuar intencionalmente. De lo contrario, el potencial de bloquear grandes extensiones de humanidad de un núcleo cuyas vidas se incrementan por AI conducirá a una sociedad rota, de la cual se producirán problemas.
“Por el momento, creo que somos demasiado pasivos. Estamos esperando que salga el próximo sistema de IA increíble. No estamos pensando en el futuro, pensando en cómo esto va a afectar nuestras vidas ”.
