El mundo de la seguridad cibernética está siendo interrumpido por la inteligencia artificial (IA). Max Heinemeyer, director de productos de Darktrace, cuya tecnología ayuda a resolver el problema de las empresas que son pirateadas, está viendo que los piratas informáticos desarrollan cada vez más ataques sofisticados utilizando IA avanzada.
Los modelos de idiomas grandes como ChatGPT significan que ya no se trata simplemente de enseñar a los usuarios los conceptos básicos de una buena higiene de seguridad, como verificar los errores ortográficos y la gramática incorrecta en los mensajes de correo electrónico. Los ataques de correo electrónico dirigidos pueden ser muy personalizados, aprovechando el enorme volumen de datos personales que están fácilmente disponibles en Internet y las redes sociales.
Uno podría muy bien argumentar el caso de hacer que el correo electrónico sea “menos conveniente”. Por ejemplo, evitar que los enlaces se abran directamente si un usuario hace clic en uno de los mensajes limitaría el impacto de un ataque de phishing. Pero Heinemeyer no está interesado en tales medidas preventivas. “Veo de dónde vienes, pero creo que estamos poniendo el carruaje delante del caballo si vamos por ese camino”, dice.
Heinemeyer cree que la seguridad debe apoyar a las empresas. “Queremos que las personas sean astronautas, investiguen leyes y accedan al entretenimiento, y que no se vean molestadas por la seguridad. No debemos obstaculizar su comunicación. Personalmente, creo que la tecnología de seguridad debe intensificarse y funcionar sin problemas en segundo plano”, agrega.
Dado que el correo electrónico se envía a través de un servidor a un dispositivo cliente, como el teléfono del usuario, hay muchas oportunidades para usar la seguridad basada en la puerta de enlace que escanea los mensajes de correo electrónico y tal vez incluso los enlaces sospechosos que están incrustados en esos mensajes. Pero este no es el enfoque que toma Darktrace. En cambio, la empresa utiliza el aprendizaje automático para comprender las comunicaciones comerciales normales de los empleados individuales.
“Debería estar bien hacer clic en un enlace en el que nunca has hecho clic antes, pero si ese enlace proviene de un remitente que está tratando de incitarte a hacer clic en algo y es claramente extraño en un contexto comercial, entonces algo debería ser hecho”, dice Heinemeyer.
Él cree que los sistemas de seguridad cibernética deben ser lo suficientemente inteligentes para permitir que continúe el negocio normal. Pero él dice que las cosas raras deben detenerse y prohibirse. Por ejemplo, dice: “Si profundiza en el mensaje y descubre que el remitente nunca ha enviado nada al resto de su organización, y nota que la sintaxis no refleja cómo la gente normalmente le habla, entonces usted” d mejor no haga clic en el clic.”
Él dice que hay cientos de pequeños marcadores descubiertos a través del análisis semántico que identifican diferencias en comparación con el lenguaje comercial normal. Heinemeyer dice que los humanos nunca podrían identificarlos, pero el aprendizaje automático puede comprender al usuario y cómo es el comportamiento normal.
Heinemeyer cree que el uso de la automatización y el aprendizaje automático puede ayudar a contrarrestar los ataques cibernéticos dirigidos personalizados. “Necesitamos tener sistemas lo suficientemente inteligentes que mantengan los mensajes de los ciberdelincuentes lejos del usuario o eliminen los enlaces”, agrega. El aprendizaje automático debe ser lo suficientemente inteligente como para no detener el negocio normal.
Pero existe una sensación muy real de que tal monitoreo es un poco como el éxito de taquilla de Hollywood. Informe de minorías, donde las máquinas observan a las personas en segundo plano para predecir si se va a producir una actividad delictiva. Si bien existen argumentos legales y éticos sobre el uso de dicha tecnología en la vigilancia para atacar la actividad delictiva, es necesario formular preguntas sobre el impacto social del uso de la IA para monitorear el correo electrónico y otras formas de comunicaciones electrónicas.