En su último libro, La mente de un hacker: cómo los poderosos doblan las reglas de la sociedad y cómo doblarlas hacia atrásel tecnólogo de interés público y experto en seguridad cibernética Bruce Schneier describe un mundo dentro de unos años en el que la inteligencia artificial (IA) ha tenido un efecto profundo en la humanidad.
Schneier no está solo en su evaluación de que el futuro a corto plazo de la IA será un viaje salvaje. Le preocupa que el poder de los modelos de IA para piratear (en su forma más simple, aquí definiremos la piratería como cualquier acto de descubrir y explotar vulnerabilidades y lagunas en los sistemas, no necesariamente en un contexto de seguridad cibernética) supere con creces la capacidad de los piratas informáticos humanos para Mantenga.
Argumenta que los hacks que descubrirán las IA se utilizarán casi inevitablemente para beneficiar a los ricos y poderosos. Imagine, si se atreve, un escenario en el que las IA se vuelven tan expertas en explotar los sistemas impositivos y regulatorios al servicio de los fondos de cobertura amorales y los capitalistas de riesgo que la desigualdad de riqueza aumenta exponencialmente y los sistemas económicos comienzan a colapsar. No es posible hoy, pero es probable mañana.
“Hablo sobre la noción de piratería de IA [and] encontrar vulnerabilidades en los sistemas”, dice Schneier. “En general, la IA es una tecnología muy discontinua y no sabemos qué es posible: las cosas que pensamos que son fáciles terminan siendo difíciles y viceversa. Así que no sabemos.
“Pero creo que este será el mayor cambio en la sociedad humana. Creo que va a afectar todo”.
Nadie, ni siquiera Schneier, tiene todavía las respuestas sobre cómo resolver estos problemas, pero a través de su trabajo como jefe de arquitectura de seguridad en Inrupt, donde se ha reunido con su colaborador John Bruce y el pionero mundial de la web Tim Berners-Lee, él ahora está trabajando en una idea que, si sale bien, puede devolverle a la gente algo de poder sobre la IA.
Berners-Lee siempre ha sido un defensor de la web abierta y no oculta su deseo de salvaguardar los principios democráticos sobre los que la fundó. Él y Bruce crearon Inrupt con principios similares de permitir que las personas controlen su experiencia y datos de una manera que desde la llegada de plataformas como Google y Facebook, ahora Meta, a mediados de la década de 2000, se ha perdido.
En pocas palabras, la tecnología de Inrupt, la plataforma de privacidad sólida, organiza los datos, las aplicaciones y las identidades de una manera que le da al propietario de los datos el poder de elegir cómo y dónde se almacenan, y quién puede acceder a ellos, a través de sus propios datos personales en línea. almacén de datos o Pod.
Entre los primeros en adoptar se encuentran NatWest Bank, la BBC, el gobierno de Flandes en Bélgica y el NHS, que han estado explorando casos de uso piloto para una versión empresarial desde 2020.
Entonces, ¿qué tiene esto que ver con la IA?
Entonces, ¿es un servicio de almacenamiento en la nube? No exactamente. Piense en un Pod como algo más parecido a un sitio web privado donde controla cómo sus datos personales se ponen a disposición de las aplicaciones u otras personas de una manera que tenga sentido para usted.
¿Estuviste en una fiesta con alguien? Luego, puedes dejar que vean las fotos que tomaste en la fiesta, pero no las instantáneas de tus vacaciones. ¿Trabajaste con alguien en un proyecto? Luego, puede permitirles acceder a los archivos del proyecto, pero no al borrador de su novela. ¿Has pasado por una ruptura de pareja? Luego puede rescindir el acceso de su ex a sus datos.
Foto de Thomas Hofman
“Esta es una forma de casi tomar los datos de lado. En lugar de que Fitbit tenga sus datos de Fitbit y su refrigerador tenga los datos de su refrigerador, Inrupt lo pone de lado para que tenga sus datos de todos esos lugares en un solo lugar”
Bruce Schneier, irrupción
“Es poner los datos en manos de las personas de una manera generativa, que es algo que hemos perdido con las grandes plataformas tecnológicas”, dice Schneier. “En cierto sentido, la web temprana fue generativa en el sentido de que todos podían hacer lo suyo.
“Esta es una forma de casi tomar los datos de lado. En lugar de que Fitbit tenga sus datos de Fitbit y su refrigerador tenga los datos de su refrigerador, Inrupt lo cambia de lado para que tenga sus datos de todos esos lugares en un solo lugar, y se pueden escribir aplicaciones que usan datos de aquí o allá fácilmente”.
¿Cómo se relaciona esto con la IA? Bueno, en este momento, gran parte de la preocupación sobre los grandes modelos de lenguaje, como el que subyace en el coco de la IA actual, ChatGPT, radica en cómo se entrenan, utilizando todos los datos que posiblemente puedan extraer de todos los rincones de la Internet pública. , sin pedir. Como mínimo, esto es preocupante desde una perspectiva de privacidad.
Schneier dice que este modelo de “entrenamiento sin consentimiento” está maduro para la disrupción. Él pregunta: ¿qué pasa si interrumpimos esto y recuperamos el control de los datos en los que se permite entrenar a las IA?
“La idea de que puedes entrenar una IA personal en ti mismo será poderosa en formas que ni siquiera comprendemos”, dice Schneier. “Eso simplemente no es posible ahora porque Fitbit tiene tus datos de Fitbit, Twitter tiene tus tweets, Facebook tiene tus cosas de Facebook y Google tiene tu correo electrónico. No puedes acceder a todas tus cosas”.
Hasta siempre Siri, adieu Alexa
En este contexto, dice Schneier, el poder de cambiar los datos y controlar a quién o qué le permite acceder a ellos surge porque, en teoría, podría permitirle entrenar una IA personal y privada que se adapte a sus necesidades e intereses específicos en el ámbito en línea.
“En este momento, tienes un gran modelo de lenguaje que está capacitado en todo, por lo que es racista, porque mucha gente es racista. Pero si pudieras entrenar el modelo de lenguaje grande solo conmigo, podría ser un mejor asistente”, dice.
“Por ejemplo, podría producir un primer borrador de algo. Eso sería genial, y podría hacer un segundo borrador.
“Si la IA está entrenada en mí, como yo, entonces se convierte en mi asistente, trabajando para mí, no para otra persona. Eso parece ser un gran cambio de juego”.
Schneier es un fanático de la tecnología de asistencia. “Quiero un mundo donde alguien que no sea muy elocuente pueda escribir una carta a su congresista. Quiero ese mundo”, dice. “Pero no quiero un mundo en el que una IA esté escribiendo un millón de cartas haciéndose pasar por personas. Entonces, ¿cómo desbloqueamos esa función de asistente? Una de las formas es a través de la personalización”.
El valor para un profesional creativo, como Schneier, que ha publicado cerca de 20 libros en su carrera, o este reportero, que no ha publicado pero sigue intentándolo por si acaso, es claro.
Pero las aplicaciones de esta teoría van mucho más allá de generar un primer borrador utilizable de un libro o una carta a un político. ¿Qué pasaría si pudiera entrenar a un asistente de inteligencia artificial en los lugares que visitó en Facebook o las fotos que publicó en Instagram? Tal vez te guste la comida callejera o la buena cerveza; si te encuentras en una ciudad nueva, tu IA podría recomendarte excelentes camiones de comida o pubs de cerveza real. ¿Te gustó esa banda en Glastonbury? Tocarán cerca de ti esta noche.
Esto ya se ha hecho hasta cierto punto: Amazon entrena sus algoritmos en sus datos todo el tiempo, pero para su propio beneficio, no para el suyo. “Es en beneficio del usuario si coinciden, pero si entran en conflicto, Amazon gana porque son dueños del Echo”, dice Schneier.
¿Estás listo para esto?
El advenimiento de una versión de Alexa que tiene alguna utilidad más allá de brindarle una actualización del clima antes de salir de la casa, configurar un temporizador o acceder a la aplicación BBC Sounds, es ciertamente una perspectiva interesante a considerar.
Pero incluso si está de acuerdo con eso, habrá otras perspectivas a considerar, entre ellas la idea de ir más allá de los jardines amurallados de los gigantes tecnológicos a los que, a pesar de todas sus fallas, nos hemos acostumbrado en los últimos 15 años.
Muchos pueden temer que configurar y ejecutar sus propios asistentes de IA y Pods esté más allá de sus capacidades técnicas, un factor que Schneier reconoce, pero que no cree que sea necesariamente un gran problema.
Él dice: “Claro, podrías ejecutar tu propio Pod. Al igual que podría ejecutar su propio servidor de correo electrónico, pero no lo hace: usa Apple, Google o Microsoft. Lo más probable es que su Pod sea alojado por otra persona”.
Precisamente quiénes serán estos anfitriones aún no se ha decidido. Su Pod podría suministrarse como parte de su paquete de banda ancha o móvil. Si desea comprar su propio dispositivo de almacenamiento físico, podría quedarse allí. Incluso podría ser ofrecido como un servicio por un gigante tecnológico.
“Existen todas estas formas diferentes en las que ponemos las cosas en la nube, porque así es como tiene sentido. Esto será eso también…. [But] la mecánica de la misma tiene que ser transparente para el usuario. No puede ser que necesites ser un experto para tener tu propio Pod”.
¿Schneier se siente cómodo con la construcción de este servicio solo para ponerlo en manos de Apple o Google, o peor aún, Meta?
“Podemos hacer que sea conveniente para usted tener [your data], y eso sería mejor para ti. Esa es la visión de Pods. La realidad aún no está allí, pero Tim Berners-Lee cambió Internet una vez. Tiene un historial de cambios en la forma en que funciona Internet, por lo que no me extrañaría que lo hiciera de nuevo”.
Bruce Schneier, irrupción
“Tienes que preocuparte por los gigantes tecnológicos”, dice, “pero también puedes mover el Pod como un servidor web. Si no te gusta lo que ellos [the host] están haciendo, vayan a otro lado, es súper fácil…. Ciertamente, sería mejor si ejecutaras tu propio servidor, pero no vas a hacer eso, seamos razonables”.
La creciente influencia de la plataforma federada de redes sociales Mastodon podría servir como un posible modelo para los Pods de consumidores. Mastodon no es una única red social privada como Twitter ahora, sino una red de servidores distribuidos o instancias que se federan en un grupo colectivo. Si a un usuario de Mastodon no le gusta su servidor, es libre de moverse cuando lo desee.
Cambiando Internet, otra vez
Si la IA demuestra ser una amenaza para la trama de una película de pesadilla, como Skynet en terminador, todos los Pods del mundo no impedirán que las armas nucleares vuelen. Pero si esto se desarrolla como sugiere Schneier, la idea de descentralizar los datos al servicio de dar a las personas agencia sobre la IA y su propia privacidad es ciertamente atractiva.
“Esta noción de distribuir nuestros datos es mucho más resistente, confiable, generativa y mejor que si la tuvieran los grandes monopolios tecnológicos”, dice Schneier. “Google tiene todos sus datos, pero no es necesario que los tengan, simplemente es conveniente que los tengan.
“Podemos hacer que sea conveniente para ti tenerlo, y eso sería mejor para ti. Esa es la visión de Pods, la visión de Solid. La realidad aún no está allí, pero Tim Berners-Lee cambió Internet una vez. Tiene un historial de cambiar la forma en que funciona Internet, por lo que no me extrañaría que lo hiciera de nuevo”.
Foto de Thomas Hofman