La inteligencia artificial se ha convertido en una de las herramientas más disruptivas y transformadoras para las empresas, pero también en un nuevo desafío para la ciberseguridad. El Instituto Nacional de Ciberseguridad (INCIBE) ha publicado algunas claves para que las empresas puedan preparar los nuevos escenarios que vienen de la mano de la IA en materia de ciberseguridad.
El Instituto Nacional de Ciberseguridad (INCIBE) ha publicado un nuevo documento en el que analiza el impacto de los denominados ‘modelos de IA de frontera’, que son sistemas avanzados capaces de acelerar tanto la defensa como el ataque en el ámbito digital.
Según INCIBE, las organizaciones pueden aprovechar estos modelos para detectar amenazas en tiempo real, automatizar respuestas ante incidentes y analizar grandes volúmenes de eventos relacionados con la ciberseguridad. Pero los ciberdelincuentes también están utilizando estas capacidades para generar campañas de phishing más creíbles, automatizar el desarrollo de malware y explotar vulnerabilidades con una velocidad sin precedentes. Son las dos caras de una misma moneda: cómo la IA puede ayudar a proteger la ciberseguridad; pero, al mismo tiempo, a complicarla.
Nuevo escenario preocupante
Este nuevo escenario de ciberseguridad en el que la IA juega un papel esencial reduce significativamente el tiempo disponible para reaccionar ante amenazas, ya que, al mismo tiempo, la IA mejora las capacidades de detección y defensa, pero también las de ataque. Por ello, el organismo recomienda reforzar medidas como la autenticación multifactor resistente al phishing, la adopción de arquitecturas Zero Trust y una gestión más dinámica de las vulnerabilidades, priorizando no solo su gravedad individual, sino también su posible combinación con otros fallos de seguridad.
En este sentido, proteger las identidades digitales se antoja crucial para ofrecer a empresas y Administraciones un ecosistema más robusto y resiliente ante amenazas.
La IA como aliada en ciberseguridad
Desde el INCIBE destacan la importancia de incorporar herramientas basadas en IA para identificar vulnerabilidades en aplicaciones y sistemas, aunque insisten en que cualquier código generado o revisado por inteligencia artificial debe contar con supervisión humana especializada. Es decir: la completa automatización de la ciberseguridad no es el escenario más apropiado para protegerse correctamente.
Marlon Molina, Susana Criado y Salvador Molina posan con el libro ‘Ciberseguridad, una guía para la vida digital’.
Además, el organismo especializado en ciberseguridad recuerda que las empresas deben prestar especial atención a la información que comparten con plataformas de IA y a los riesgos emergentes como los ataques de prompt injection, capaces de alterar el comportamiento esperado de estos sistemas. Y es que la inteligencia artificial, en sí misma, también es objetivo de los ciberdelincuentes, ya que ‘contaminar’ estos sistemas permitiría atacar a los usuarios. O, dicho de otra manera, lo que se busca mediante las técnicas de promp injection es proporcionar a la IA tanto información falsa como instrucciones enfocadas en atacar al propio usuario, ya sea mediante el acceso a sus datos personales y sensibles y su posterior envío al ciberdelincuente (sin que el usuario se entere) como mediante la apertura de ‘puertas’ que permitan a la IA penetrar en los sistemas del usuario para robar esa información y filtrarla.
En un contexto en el que la IA forma parte tanto del arsenal defensivo como ofensivo, INCIBE concluye que la ciberresiliencia dependerá cada vez más de la capacidad de las organizaciones para anticiparse a las amenazas, automatizar la respuesta y mantener una vigilancia continua de sus activos digitales.
MAD FinTech con INCIBE
Dado que las amenazas (o ciberamenazas) son cada vez más corrosivas, desde el clúster MAD FinTech se trabaja de la mano de INCIBE para formar y concienciar a la sociedad y a las empresas sobre estos asuntos, de manera que pasen de ser usuarios pasivos sujetos a potenciales ciberataques, a usuarios proactivos con capacidad para identificar y neutralizar amenazas.
En esta línea, desde el clúster se han impulsado varias publicaciones relacionadas con la ciberseguridad, como los libros firmados por Marlon Molina (Ciberseguridad, una guía para la vida digital) o por Sonia Fernández Palma (Ciberseguridad fácil), que puedes conseguir poniéndote en contacto con ECOFIN en m.ossorio@ecofin.es
