Un ciberataque de tipo « » contra una empresa energética con sede en el Reino Unido utilizó la inteligencia artificial para imitar la voz del director general y engañó a un empleado para que transfiriera 243,000 dólares a una cuenta falsa en 2019. Una campaña de ciberespionaje de se dirigió a 2021 empresas internacionales de telecomunicaciones mediante correos electrónicos de phishing generados mediante inteligencia artificial. Y el año pasado, unos piratas informáticos que utilizaban inteligencia artificial inyectaron secuencias de vídeo falsas en el proceso de verificación biométrica de la plataforma de intercambio de criptomonedas Bitfinex, lo que, en última instancia, les permitió obtener activos digitales por valor de 150 millones de dólares.
Los ciberataques llevados a cabo mediante inteligencia artificial son cada vez más sofisticados y difíciles de detectar con el paso de los días.
¿La buena noticia? El poder de la IA tiene sus pros y sus contras, y un número cada vez mayor de empresas está explorando oportunidades para implementar la inteligencia artificial (y su subcampo, el aprendizaje automático) en sus propias ciberdefensas; se podría decir que es como combatir el fuego con fuego.
En la actualidad, más de dos tercios (69 %) de las empresas consideran que la inteligencia artificial es necesaria para la ciberseguridad, ya que las amenazas están aumentando hasta niveles que superan la capacidad de los analistas cibernéticos, según un estudio de Deloitte titulado « »(
Aunque la implantación de la inteligencia artificial en los programas de ciberseguridad se encuentra todavía en una fase relativamente incipiente, las ventajas potenciales son evidentes: la inteligencia artificial tiene la capacidad de procesar enormes cantidades de datos, reconocer patrones con rapidez y tomar decisiones fundamentadas, lo que ayuda a las organizaciones a identificar vulnerabilidades y amenazas, minimizar o eliminar dichas amenazas y responder con mayor rapidez, afirma María Schwenger, copresidenta de Iniciativas de Gobernanza y Cumplimiento Normativo en materia de Inteligencia Artificial de la Cloud Security Alliance (CSA). «La IA —y la GenAI— no solo nos ayudan a proteger la ciberseguridad», afirma. «Nos están ayudando a construir un mundo nuevo y resiliente con sistemas nuevos y resilientes».
A medida que las organizaciones comienzan a explorar las aplicaciones de la inteligencia artificial en los programas de ciberseguridad, los expertos señalan que las siguientes áreas resultan muy prometedoras.
1. Cómo las herramientas de ciberseguridad basadas en la inteligencia artificial mejorarán las pruebas de vulnerabilidad
Los ingenieros de software se esfuerzan por escribir código seguro, pero a veces se cometen errores. Podrían introducir involuntariamente vulnerabilidades al gestionar los errores de forma inadecuada o al no validar las entradas de los usuarios; los sistemas complejos podrían dificultarles la tarea de prever todas las posibles vulnerabilidades de seguridad; o los ingenieros de software podrían verse obligados a cumplir plazos muy ajustados para entregar nuevas funcionalidades con rapidez, lo que les llevaría a tomar atajos o a transigir en cuanto a la calidad y la seguridad del código.
«La IA —y la GenAI— no solo nos ayudan a proteger la ciberseguridad. Nos están ayudando a construir un mundo nuevo y resiliente con sistemas nuevos y resilientes.»Maria Schwenger, copresidenta de Iniciativas de Gobernanza y Cumplimiento en materia de IA, Cloud Security Alliance
«Además», afirma Nick Merrill, investigador científico y director del Daylight Lab del Centro de Ciberseguridad a Largo Plazo de la Universidad de California en Berkeley, «los ingenieros de software saben sorprendentemente poco sobre seguridad y sobre cómo detectar vulnerabilidades en el software que escriben».
Tradicionalmente, cuando se notifican vulnerabilidades en el entorno real, los desarrolladores son los encargados de detectar los errores y de aplicar los parches correspondientes. Esto puede resultar complicado y tedioso, ya que les obliga a examinar numerosos archivos y módulos para identificar la causa principal de un error, o a reproducir las condiciones o situaciones específicas para comprender el error y encontrar una solución. Sin embargo, gracias al uso de la inteligencia artificial, las organizaciones podrían mejorar la rapidez y la eficiencia con las que detectan y subsanan posibles vulnerabilidades en el código, creando así un entorno más seguro, afirma Merrill.
[Lea también: Guía definitiva sobre ciberseguridad basada en la IA: ventajas, riesgos y beneficios]
Las herramientas basadas en inteligencia artificial podrían, por ejemplo, examinar los códigos fuente para identificar posibles vulnerabilidades mediante el análisis de patrones, con el fin de detectar riesgos habituales como las inyecciones SQL y el cross-site scripting. Las IA también podrían entrenarse con grandes conjuntos de datos de vulnerabilidades conocidas para identificar patrones similares en código nuevo, revelando así vulnerabilidades hasta entonces desconocidas o exploits de día cero.
«Esto ahorra tiempo y esfuerzo, ya que así los equipos de seguridad no tienen que dedicar tiempo a actuar de forma retroactiva, una vez que se ha notificado un problema en el entorno real, para localizar el fallo y corregirlo», afirma. «Dar a los desarrolladores los medios para resolver los problemas de seguridad supondría un gran avance en estos tiempos».
2. Cómo las herramientas de ciberseguridad basadas en la inteligencia artificial mejorarán la detección de amenazas
Detectar posibles amenazas a la seguridad en una fase temprana ayuda a prevenir el acceso no autorizado a datos sensibles, propiedad intelectual y otros activos valiosos que conforman las «joyas de la corona» de una organización. Esto ayuda a las organizaciones a evitar costosas filtraciones de datos, pérdidas económicas y daños a su reputación.
«. Permitir a los desarrolladores resolver problemas de seguridad [con IA] supondría un gran avance en estos tiempos.»Nick Merrill, investigador científico y director del Daylight Lab, del Centro de Ciberseguridad a Largo Plazo de la Universidad de California en Berkeley
En muchas organizaciones, los analistas de seguridad se encargan de supervisar manualmente los registros del sistema, los registros de tráfico de red y los registros de las aplicaciones en busca de actividades sospechosas que puedan indicar una brecha de seguridad. Este proceso puede resultar largo y agotador para las personas, afirma Schwenger, de la CSA. «Puede resultar difícil identificar las amenazas con rapidez, sobre todo si se trata de una amenaza muy sofisticada que puede pasar desapercibida para el ojo humano», afirma. «En el caso de los analistas humanos, una persona solo puede procesar una cantidad limitada de datos, y es fácil pasar por alto ciertos patrones». «Pero la inteligencia artificial es realmente eficaz a la hora de detectar patrones que a nosotros se nos pueden pasar por alto».
Dado que la inteligencia artificial es capaz de analizar grandes cantidades de datos, puede utilizarse para establecer una referencia del comportamiento normal de los sistemas, las redes y los usuarios. Según el Sr. Schwenger, al detectar desviaciones o anomalías, la inteligencia artificial puede ayudar a identificar posibles amenazas para la seguridad, como intentos de acceso no autorizado, tráfico de red inusual o comportamientos anómalos de los usuarios.
«Se trata de una mejora considerable en el análisis de amenazas, ya que permite detectar más rápidamente esos parámetros ocultos y esas anomalías ocultas en los datos, que de otro modo podrían haber pasado desapercibidos», afirma. «Esto le proporciona escalabilidad, ya que está automatizando tareas tediosas y obteniendo información en tiempo real que puede transmitir a sus ingenieros de seguridad, lo que le ayuda a trabajar más rápido y a ser más ágil».
3. Cómo las herramientas de ciberseguridad basadas en la inteligencia artificial acelerarán la contención y la respuesta ante las amenazas
Cuando se ha detectado una amenaza o se ha producido un incidente de seguridad, es fundamental actuar con rapidez para subsanar la situación. «La rapidez lo es todo cuando se trata de amenazas de , , ataques a la seguridad de, , filtraciones de y ataques de ransomware de », afirma Adam Levin, autor de Swiped: Cómo protegerse en un mundo lleno de estafadores, phishers y ladrones de identidad, y copresentador del What the Hack podcast. «Debe estar en condiciones de actuar lo más rápidamente posible para tapar el agujero y poner fin al problema, de modo que pueda empezar a trabajar en la solución». «Cuanto antes consiga contener la amenaza, antes podrá defenderse de ella».
«. Debe estar en condiciones de actuar lo más rápido posible para tapar el agujero y detener el problema, de modo que pueda empezar a trabajar en la solución.»Adam Levin, autor y copresentador del podcast «What the Hack»
Los métodos tradicionales de contención y respuesta ante amenazas dependen en gran medida de la intervención manual. Cuando se produce un incidente de seguridad, por ejemplo, los analistas deben identificar manualmente los sistemas afectados, aislar los activos comprometidos y aplicar medidas de contención. Los analistas de seguridad revisarán manualmente las alertas de seguridad, los registros y los datos forenses para comprender el alcance del incidente y, a continuación, se encargarán de aplicar parches a los sistemas o restablecer las credenciales comprometidas. Estos procesos llevan tiempo y conllevan la posibilidad de que se produzcan errores humanos, lo que podría retrasar aún más la resolución de los problemas.
Sin embargo, gracias a la inteligencia artificial, los algoritmos pueden evaluar automáticamente la gravedad y el impacto de la amenaza, identificar qué activos se ven afectados e incluso coordinar las medidas de respuesta, afirma Schwenger. Esto puede incluir el aislamiento automático de los dispositivos finales infectados, el bloqueo del tráfico malicioso o la desactivación de los servicios comprometidos.
«Esto contribuye realmente a que sus equipos de seguridad tomen decisiones fundamentadas y respondan ante un incidente, ya que la inteligencia artificial puede proporcionarles esta información y formular recomendaciones; de este modo, se elimina toda conjetura a ciegas», afirma. «Y de cara al futuro, la IA generativa (GenAI) también ofrece un gran potencial , ya que podría utilizarse para generar informes y resúmenes tras un incidente, preparar respuestas y ayudar a mantener informadas a las partes interesadas».
Aunque el potencial de la inteligencia artificial en el ámbito de la seguridad es considerable, Schwenger se apresura a señalar la necesidad y el valor perdurables de personas c es en cualquier programa de seguridad. «La inteligencia artificial es tan buena como los datos en los que se basa, con los que se entrena y que analiza». «Nada puede sustituir a la experiencia y la supervisión humanas, algo que siempre será necesario», afirma.
