La IA, definida como una forma de aprendizaje automático basada en una arquitectura de redes neuronales, es más que un tema de actualidad: está creciendo tan rápido que ni siquiera Elon Musk puede frenar su rápido desarrollo. Y el uso de la inteligencia artificial no da señales de que vaya a disminuir en un futuro próximo.
Según un informe reciente de Bloomberg Intelligence titulado «», se prevé que el mercado de la IA generativa podría generar unos ingresos anuales de 1.8 billones de dólares para el año 2032, lo que representaría hasta el 16 % del gasto tecnológico mundial.
Ante este aumento previsto en la adopción y expansión de la IA, muchas organizaciones están evaluando si la IA puede mejorar operaciones que tradicionalmente han dependido del análisis humano: el procesamiento de grandes volúmenes de datos, la gestión de entornos cada vez más complejos y el refuerzo de las estrategias de ciberseguridad que protegen los datos sensibles y los sistemas críticos.
Esta guía desglosa en qué aspectos la IA aporta un valor real a las operaciones de ciberseguridad, en qué casos introduce nuevos riesgos, qué indican las agencias federales sobre las amenazas impulsadas por la IA y cómo Tanium está desarrollando una gestión autónoma de los terminales para ayudar a los equipos a aprovechar el potencial de la IA con confianza y control.
Ventajas del uso de la inteligencia artificial en la ciberseguridad
Aunque aún no se comprenden plenamente el alcance y las implicaciones de las capacidades de la inteligencia artificial en el sector de la ciberseguridad, a continuación se ofrece una visión general simplificada de las áreas problemáticas más habituales y de las aplicaciones en las que los sistemas basados en inteligencia artificial ofrecen resultados prometedores:
Mejorar la detección de amenazas
La inteligencia artificial puede procesar datos procedentes del tráfico de red, los registros del sistema, el comportamiento de los usuarios y la información sobre amenazas externas para detectar anomalías que puedan indicar una actividad malintencionada. Esto incluye tipos de ataques conocidos, como el ransomware y el phishing, así como amenazas hasta ahora desconocidas, tales como vulnerabilidades de día cero y amenazas persistentes avanzadas (APT).
Apoyar la detección proactiva de amenazas
La inteligencia artificial puede agilizar la detección de amenazas y hacerla más precisa. Los métodos tradicionales suelen basarse en análisis manuales y reglas estáticas, lo que puede ralentizar el proceso y hacer que se pasen por alto amenazas sofisticadas.
La inteligencia artificial acelera este proceso mediante el análisis del tráfico de red, el comportamiento de los usuarios y los datos históricos de incidentes, con el fin de identificar patrones y anomalías que indiquen una actividad maliciosa, tanto si la amenaza es conocida como si se trata de una nueva.
Agilizar la respuesta ante incidentes relacionados con amenazas a la seguridad
La inteligencia artificial puede ayudar a minimizar el impacto de los ciberataques mediante la automatización de las medidas de respuesta iniciales y la priorización de los incidentes en función del riesgo real. Esto permite a los equipos aislar los sistemas afectados, los dispositivos finales o los segmentos de red con mayor rapidez de la que suele permitir la clasificación manual.
La IA también puede ofrecer medidas de mitigación en tiempo real, así como alertas, recomendaciones y orientación altamente personalizadas a los equipos de seguridad para recuperar y restablecer el funcionamiento normal del sistema.
Acelerar la investigación de incidentes
Cuando se produce un incidente, un analista debe recopilar, examinar y analizar una gran cantidad de datos para conocer el alcance y la gravedad de un ataque. Esto puede resultar laborioso y tedioso, sobre todo cuando se trata de incidentes de gran envergadura y complejidad.
La inteligencia artificial puede contribuir a acortar ese proceso mediante la automatización de la recopilación, la correlación y el análisis de datos procedentes de diversas fuentes, tales como registros, tráfico de red, terminales e inteligencia sobre amenazas. La inteligencia artificial también puede ayudar a los investigadores a obtener una visión más completa del alcance y el impacto de un ataque en un tiempo considerablemente menor.
Ofrecer prevención predictiva de amenazas
Los modelos de inteligencia artificial, como el aprendizaje profundo , pueden ayudar a prevenir los ciberataques al identificar de forma proactiva y bloquear automáticamente las posibles amenazas antes de que puedan comprometer los sistemas. La IA también puede utilizar diferentes algoritmos, como los métodos de aprendizaje supervisado, no supervisado o semisupervisado, para aprender a partir de datos históricos y realizar análisis predictivos con el fin de anticipar mejor los incidentes futuros.
Determinar la causa raíz
El análisis tradicional de las causas raíz se basa en la recopilación e interpretación manual de datos, lo que conlleva un riesgo de error humano y de falsos positivos.
La inteligencia artificial puede automatizar gran parte de este trabajo, correlacionando datos de conjuntos de datos amplios y complejos para ayudar a los equipos a identificar las vulnerabilidades o las configuraciones erróneas que permitieron que se produjera un ataque. El resultado: una comprensión más precisa de la exposición, una estrategia de seguridad más rigurosa y más tiempo para que los analistas se centren en tareas de mayor valor.
[Lea también: ¿Falta el análisis de ciberseguridad en su estrategia de seguridad?]
Estas funciones ofrecen mejores resultados cuando se utilizan de forma combinada. Para aprovechar plenamente su valor es necesario contar con datos de calidad, una integración completa en todo su entorno y la supervisión humana necesaria para actuar con confianza en función de los resultados generados por la inteligencia artificial. En conjunto, constituyen la base para una gestión de la seguridad más proactiva y ágil.
Estas ventajas constituyen un argumento de peso a favor de la inteligencia artificial en las operaciones de seguridad. Sin embargo, las mismas capacidades que refuerzan sus defensas también están al alcance de los atacantes. Comprender estos riesgos es tan importante como comprender las ventajas.
¿Puede la inteligencia artificial predecir realmente los ciberataques futuros?
Sí, la inteligencia artificial puede ayudar a predecir futuros ciberataques, pero la realidad es más matizada de lo que sugiere el titular. Las herramientas de seguridad basadas en la inteligencia artificial no predicen ataques concretos. Identifican las circunstancias que aumentan la probabilidad de que se produzca un ataque.
La «predicción» en el ámbito de la ciberseguridad basada en la inteligencia artificial abarca todo el trabajo que se lleva a cabo para detectar posibles amenazas antes de que se produzca un ataque. Resulta útil considerar estas predicciones más bien como un aviso de condiciones meteorológicas adversas que como una alerta: las soluciones de seguridad basadas en IA pueden «vigilar» para detectar si están presentes todos los componentes que podrían dar lugar a un futuro ataque, mediante una supervisión y un análisis continuos, lo que permite a los equipos actuar de forma proactiva para identificar, contener y subsanar las vulnerabilidades que podrían ser explotadas, antes de que una «alerta» —o un ataque activo— tenga siquiera la oportunidad de producirse.
Mediante la modelización predictiva —que consiste en el uso de algoritmos de aprendizaje automático y técnicas estadísticas para aprender a partir de datos históricos y mejorar la capacidad de detectar amenazas—, las soluciones basadas en inteligencia artificial pueden analizar grandes cantidades de datos procedentes de diversas fuentes, como el tráfico de red, los registros del sistema, las fuentes de inteligencia sobre amenazas y el comportamiento de los usuarios, con el fin de identificar patrones y anomalías que puedan indicar posibles amenazas, incluso si nunca se han detectado anteriormente.
¿Cómo? Dado que las herramientas de ciberseguridad basadas en la inteligencia artificial están diseñadas para detectar comportamientos maliciosos, destacan en la identificación de amenazas de día cero en comparación con las herramientas de seguridad tradicionales, creadas para identificar únicamente amenazas conocidas.
«Los métodos tradicionales de defensa, entre los que se incluyen el software antivirus, la aplicación de parches, los cortafuegos y otros controles de ciberseguridad, resultan menos eficaces frente a las vulnerabilidades de día cero, que son desconocidas tanto para los proveedores como para las organizaciones. Las vulnerabilidades de «día cero» eluden los sistemas tradicionales de detección basados en firmas y anomalías, así como el software antivirus, que contiene información sobre las firmas de los ataques conocidos.»Kelly Morgan, Role of AI in Threat Detection and Zero-day Attacks1
Es evidente que la inteligencia artificial aporta una capacidad real a las operaciones de ciberseguridad. Sin embargo, las mismas técnicas que refuerzan sus defensas también están al alcance de los atacantes. Es fundamental tener en cuenta ambos aspectos de esta ecuación para tomar decisiones acertadas sobre la adopción de la IA.
En la siguiente sección se analiza cómo los atacantes están utilizando la inteligencia artificial para ampliar y perfeccionar sus operaciones, y qué implicaciones tiene esto para su estrategia de defensa.
Riesgos de seguridad y limitaciones de la inteligencia artificial en el ámbito de la ciberseguridad
Si bien las organizaciones y los usuarios están incorporando la inteligencia artificial y las tecnologías relacionadas a numerosos procesos empresariales, los autores de amenazas también utilizan herramientas de inteligencia artificial similares para causar daños de forma más rápida y sencilla.
Lamentablemente, muchos no están preparados para hacer frente a esta amenaza emergente que plantea la inteligencia artificial. Un informe « 2023 » sobre el estado de la IA elaborado por la consultora McKinsey reveló que solo el 38 % de los encuestados estaba mitigando activamente los riesgos de ciberseguridad de la IA generativa, una cifra que resulta aún más impactante al saber que este porcentaje, de hecho, disminuyó un 13 % en comparación con los resultados del mismo estudio realizado el año pasado.
Posibles amenazas derivadas del uso de la inteligencia artificial en los ciberataques
La creciente complejidad y sofisticación de este tipo de incidentes de ciberseguridad basados en la inteligencia artificial pueden plantear retos importantes para las soluciones de seguridad tradicionales, como el software antivirus, los cortafuegos y los sistemas de detección de intrusiones. Dado que estas soluciones suelen basarse en sistemas más estáticos y basados en reglas para identificar y bloquear ataques conocidos, es posible que no detecten ataques nuevos o desconocidos que aprovechen vulnerabilidades de día cero o utilicen técnicas avanzadas como el cifrado, la ofuscación o el polimorfismo.
Una de las formas en que los actores maliciosos aprovechan la inteligencia artificial es llevando a cabo ataques adversarios diseñados para explotar vulnerabilidades en modelos de aprendizaje automático —como las redes neuronales— mediante la creación de entradas que parecen normales para los seres humanos, pero que están diseñadas para engañar a los modelos de aprendizaje automático y manipular sus resultados. Un ejemplo de ataque adversarial es el uso de la inteligencia artificial para modificar ligeramente un correo electrónico con el fin de eludir el filtro antispam de una empresa.
Los ciberdelincuentes también están utilizando modelos de IA generativa, que abarcan un amplio subconjunto de tipos de IA, como los grandes modelos de lenguaje (LLM) y el procesamiento del lenguaje natural (NLP), para mejorar sus técnicas de ingeniería social . Por ejemplo, los autores de amenazas utilizan algoritmos de inteligencia artificial para crear correos electrónicos de phishing más convincentes. Y este tipo de incidentes ya se están produciendo a una escala enorme.
Según un informe titulado « 2023 » elaborado por la empresa de ciberseguridad SlashNext, se ha producido un aumento del 1,265 % en los ataques maliciosos de phishing desde el lanzamiento de ChatGPT a finales de 2022 , impulsado por ciberdelincuentes que utilizan herramientas de IA generativa para redactar mensajes de «business email compromise» (BEC) y otros correos electrónicos de phishing.
«. Algunos de los usuarios más habituales de los chatbots basados en modelos de lenguaje a gran escala son los ciberdelincuentes, que aprovechan esta herramienta para redactar ataques de suplantación de identidad empresarial (BEC) y lanzar de forma sistemática ataques de phishing altamente dirigidos.»SlashNext, The State of Phishing 2023
Según el informe, se registraron una media de 31,000 ataques de phishing al día. Aproximadamente la mitad de los profesionales de la ciberseguridad encuestados afirmaron haber sufrido un ataque de tipo BEC, y tres cuartas partes señalaron haber sido objeto de ataques de phishing.
Los correos electrónicos de phishing siempre han sido fáciles de detectar, ya que contienen errores ortográficos, faltas gramaticales u otras deficiencias. Sin embargo, los correos electrónicos de phishing generados por sistemas de inteligencia artificial suelen tener unas tasas de apertura por parte de los usuarios más elevadas que los correos electrónicos de phishing creados manualmente. Gracias a las herramientas de inteligencia artificial, los autores de ataques de phishing pueden crear ahora correos electrónicos de phishing muy personalizados y dirigidos, analizando contenidos anteriores para que resulten muy convincentes y consigan así engañar más fácilmente a los usuarios para que hagan clic en los enlaces que contienen y, sin darse cuenta, desencadenen ataques.
Los atacantes también aprovechan la IA generativa para crear contenidos únicos con el fin de eludir los controles destinados a otros tipos de ataques basados en la IA, entre los que se incluyen las identidades sintéticas y los «deepfakes». Por ejemplo, los autores de amenazas pueden utilizar la inteligencia artificial para crear «deepfakes» de las voces de las personas con el fin de llevar a cabo ataques de spear phishing o aprovechar otros vectores de ataque.
[Lea también: ¿Qué es el phishing? Cómo funciona el phishing y en qué hay que fijarse]
El Gobierno de EE. UU. advierte sobre los peligros de los ciberataques basados en la inteligencia artificial
La creciente preocupación en torno al uso de las tecnologías de inteligencia artificial y los ataques de ingeniería social ha pasado rápidamente de ser un problema exclusivo del sector privado a convertirse en un debate a escala nacional y mundial, y varias agencias federales están liderando los esfuerzos para proteger a las personas y los activos frente a las amenazas cibernéticas y físicas.
Por ejemplo, la Comisión Federal de Comercio de EE. UU. (FTC) publicó esta advertencia sobre los «deep fakes» en marzo de 2023:
Recibe una llamada. Se oye una voz presa del pánico al otro lado de la línea. Es su nieto. Dice que está en un buen lío: ha destrozado el coche y ha acabado en la cárcel. Pero puede colaborar enviando dinero. Respira hondo y reflexione. Seguramente habrá oído hablar de las estafas a los abuelos. Pero, caramba, suena exactamente como él. ¿Cómo podría tratarse de una estafa? La clonación de la voz, así es como se hace.
Los organismos gubernamentales siguen desempeñando un papel fundamental a la hora de reconocer la importancia y la complejidad de la inteligencia artificial en la ciberseguridad y la seguridad de las infraestructuras. Entre la legislación federal más destacada en materia de ciberseguridad se encuentra el Decreto Ejecutivo n.º 14028, «Mejora de la ciberseguridad nacional», promulgado en May 2021, que exige a los organismos federales que refuercen la ciberseguridad y la integridad de la cadena de suministro de software.
Además, la Ley de la Agencia de Ciberseguridad y Seguridad de las Infraestructuras de 2018 creó la Agencia de Ciberseguridad y Seguridad de las Infraestructuras (CISA), cuya misión consiste en dirigir y coordinar las iniciativas destinadas a mejorar la seguridad y la resiliencia de las infraestructuras críticas del país. La CISA también ofrece una amplia variedad de servicios y recursos que pueden ayudar a las organizaciones a evaluar sus riesgos de ciberseguridad, aplicar las mejores prácticas y responder ante incidentes de seguridad.
¿Va a sustituir la inteligencia artificial a la ciberseguridad?
Si bien la inteligencia artificial es una herramienta poderosa que está transformando el sector de manera significativa, no sustituirá a todas las iniciativas de ciberseguridad ni eliminará la necesidad de contar con profesionales cualificados en este ámbito.
A pesar de que se han obtenido varios resultados prometedores en su aplicación para mejorar las medidas de ciberseguridad —como la automatización de las respuestas ante amenazas, la agilización de las investigaciones de incidentes y la mejora de la detección de amenazas—, la inteligencia artificial aún no se considera una solución autónoma.
Se siguen necesitando profesionales de la ciberseguridad para interpretar los resultados de la inteligencia artificial, tomar decisiones estratégicas y gestionar situaciones complejas que la inteligencia artificial podría no comprender del todo. Además, dado que los ciberdelincuentes siguen aprovechando la inteligencia artificial para lanzar ataques cada vez más sofisticados, la supervisión humana cobra aún mayor importancia.
La inteligencia artificial funciona mejor cuando se combina con la experiencia humana, que colabora con ella para crear medidas de seguridad más sólidas y eficaces.
Qué supone la ciberseguridad basada en la inteligencia artificial para las operaciones de seguridad
El uso de la inteligencia artificial « » y la automatización en el ámbito de la ciberseguridad plantea tanto retos como oportunidades. Mientras los ciberdelincuentes siguen aprovechando estas tecnologías para lanzar ataques cada vez más sofisticados, los proveedores de ciberseguridad también están utilizando la inteligencia artificial y la automatización para desarrollar soluciones innovadoras con las que contrarrestar dichos ataques.
Es de esperar que en los próximos meses salgan al mercado más herramientas centradas en la inteligencia artificial, ya que los proveedores compiten por integrar capacidades de inteligencia artificial generativa, automatización de la seguridad y tecnologías relacionadas para crear soluciones adaptativas que ayuden a las organizaciones a hacer frente de forma más eficaz a las amenazas de ciberseguridad. En breve, estas soluciones basadas en inteligencia artificial podrían contribuir a mejorar una amplia gama de casos de uso en materia de ciberseguridad, tales como la prevención de pérdida de datos, los programas antivirus y antimalware, la detección de fraudes, la gestión de identidades y accesos, los sistemas de detección y prevención de intrusiones, la gestión de riesgos y cumplimiento normativo, la gestión del inventario de activos de TI y la gestión de la seguridad y las vulnerabilidades, por citar algunos ejemplos.
A medida que el uso de la inteligencia artificial y la automatización sigue creciendo, los expertos en seguridad, los equipos de ciberseguridad y las organizaciones deben mantenerse al día de las últimas amenazas generadas por la inteligencia artificial, aprovechando también los sistemas de ciberseguridad basados en esta tecnología para mejorar sus capacidades de seguridad y su resiliencia, con el fin de crear sistemas de ciberdefensa aún más sólidos.
[Lea también: Por qué el director de IA ha llegado para quedarse]
El futuro de la gestión de terminales es la autonomía
Tanium está abriendo el camino hacia un futuro autónomo para los equipos de TI, seguridad de la información, operaciones, así como de gestión de riesgos y cumplimiento normativo. Estamos siguiendo de cerca las tendencias en inteligencia artificial (IA) y automatización de TI basada en la « » ( ) y estamos diseñando nuestra hoja de ruta de productos en torno a estas tecnologías innovadoras que están generando una amplia gama de nuevas y emocionantes oportunidades.
La gestión autónoma de terminales (AEM) constituye el núcleo de la estrategia de Tanium y representa la evolución más ambiciosa de nuestra plataforma « » hasta la fecha. Partiendo de la base de la plataforma XEM, AEM aprovechará los datos únicos en tiempo real de los terminales de Tanium para ofrecer recomendaciones altamente personalizadas y automatizar acciones con precisión.
Descubra cómo los datos en tiempo real de Tanium potencian Microsoft Copilot for Security
Las funciones de Tanium AI se basarán en numerosas fuentes, entre las que se incluyen algoritmos de aprendizaje automático, índices de éxito de otras empresas del sector y umbrales de riesgo, con el fin de permitir a las organizaciones optimizar y proteger mejor sus entornos de formas que antes no eran posibles con las soluciones convencionales de gestión de terminales, gestión de riesgos y cumplimiento normativo, experiencia digital de los empleados y respuesta ante incidentes.
Estamos trabajando intensamente en la integración de la inteligencia artificial en nuestra plataforma XEM para ofrecer capacidades de gestión de entornos de aplicaciones (AEM), lo que permitirá a las organizaciones gestionar y proteger con mayor facilidad sus entornos informáticos, cada vez más extensos y complejos. Nuestra plataforma procesará millones de acciones, miles de millones de puntos de datos en tiempo real y un billón de señales en más de 33 millones de terminales, y aprenderá de las experiencias a nivel mundial de la comunidad de Tanium para ayudar a las organizaciones a mejorar su capacidad de toma de decisiones y así combatir con mayor facilidad la realidad cada vez más extendida que supone la ciberdelincuencia global, al tiempo que sigue ofreciendo «The Power of Certainty™».
Recursos adicionales
A medida que evolucione la ciberseguridad basada en la inteligencia artificial, esta guía servirá como recurso en constante actualización para ofrecer información a medida que surjan nuevos datos, con el fin de seguir ayudando a las empresas a tomar decisiones más fundamentadas en torno a las mejores prácticas y los casos de uso.
Eche un vistazo a estos útiles recursos sobre IA:
Noticias sobre IA de Tanium
- Tanium AI agiliza la toma de decisiones y la obtención de resultados gracias a una inteligencia en tiempo real fiable y a la automatización
- De la fragmentación a la unificación: impulsando la gestión autónoma de terminales en dispositivos móviles e informáticos con el Tanium Connector para Microsoft Intune
- Cuándo se podrá confiar por fin en los agentes de IA y los flujos de trabajo automatizados: cómo Tanium AEM para ServiceNow transforma la empresa
- Tanium desarrolla una nueva integración de agentes de IA con Microsoft Security Copilot
- Gestión autónoma de terminales (AEM) de Tanium: las experiencias que permiten ampliar la ejecución de las tareas de TI y seguridad
- Apueste por una respuesta autónoma ante incidentes con Endpoint Reactions
Más información sobre la IA
- Descubra qué cambios en las capacidades están generando nuevas superficies de ataque en los entornos empresariales, y qué controles de gobernanza es más probable que falten
- Descubra cómo las empresas pueden adaptar sus modelos de gobernanza para frenar la proliferación de agentes sin frenar la innovación
- Tipos de agentes de IA: desde simples reflejos hasta sistemas autónomos
- Por qué nuestro mundo de la IA exige un enfoque que dé prioridad a la corrección en la gestión de la exposición
- Cómo los CISO pueden convertirse en 'asesores de riesgos' de IA
- Extensiones de IDE: un nuevo riesgo persistente para su organización
- La IA agentiva se abre paso en el ámbito de las operaciones de seguridad (SecOps): conozca las ventajas, los inconvenientes y los pasos para ampliar su implementación
- La IA está revolucionando la seguridad de la nube híbrida: estos 4 pasos permiten restablecerla
- Cree un programa de cumplimiento normativo en materia de IA preparado para una auditoría, descubriendo qué significa realmente el cumplimiento normativo en materia de IA a lo largo de todo el ciclo de vida de la IA
- Lo que necesita saber sobre la nueva ley de IA de Corea del Sur
- ¿Qué es la IA agencial? Lo que debe saber sobre este nuevo tipo de IA
- ¿Desea incorporar la inteligencia artificial a sus sistemas de seguridad SOAR? Piense en «RoboCop»
- Cómo la inteligencia artificial está redefiniendo la prevención de la pérdida de datos (DLP)
- Ver para creer: cómo las empresas están utilizando la inteligencia artificial para mejorar la ciberseguridad
- Combatir el fuego con fuego: 3 formas clave en las que la IA refuerza su arsenal de ciberseguridad
- IA frente a seres humanos: por qué SecOps podría (o no) ser el próximo campo de batalla
- Cómo la inteligencia artificial mejora la detección de anomalías y reduce la fatiga por alertas
- 12 términos relacionados con la IA que usted (y su chatbot coqueto) ya debería conocer
- Fomentar la diversidad en la IA: 3 nuevos empleados analizan la oferta y la demanda en la revolución tecnológica
- 3 aspectos que debe tener en cuenta para asegurarse de que su IA sea realmente inteligente
- 4 prioridades fundamentales de liderazgo para los CISO en la era de la inteligencia artificial
Escuchar
- Nuevo episodio: Conozca «Shadow AI», la nueva amenaza en auge
- Ep. 17: Copilot AI y los pasos para transformar su empresa
- Nuevo episodio: La IA ética: cómo (y en qué medida) podemos confiar en ella
¿Le interesa obtener más información sobre incidentes activos y ataques recientes de la mano de analistas cibernéticos profesionales? Lea nuestra serie de entradas del blog « », elaborada por el equipo de Inteligencia sobre Amenazas Cibernéticas (CTI) de Tanium , en la que analizan la actualidad para ofrecerle la información que necesita conocer sobre los cambios en el panorama de amenazas que podrían afectar a las empresas y a la ciberseguridad.
