La IA, definida como una forma de aprendizaje automático basada en la arquitectura de red neuronal, es más que un tema de tendencia: está creciendo tan rápido que ni siquiera Elon Musk puede pausar el rápido desarrollo de la IA. Y el uso de la IA no muestra signos de ralentización en ningún momento pronto.
Un informe reciente de Bloomberg Intelligence proyectó que el generativo mercado de IA podría generar 1.8 billones de USD en ingresos anuales en 2032, lo que representa hasta el 16 % del gasto global en tecnología.
Con este aumento proyectado en la adopción y expansión de la IA, muchas organizaciones están evaluando si la IA puede mejorar las operaciones que tradicionalmente han dependido del análisis humano: procesar grandes volúmenes de datos, gestionar entornos cada vez más complejos y fortalecer las estrategias de ciberseguridad que protegen los datos confidenciales y los sistemas críticos.
Esta guía desglosa dónde la IA agrega un valor real en las operaciones de ciberseguridad, dónde introduce un nuevo riesgo, qué señalan las agencias federales sobre las amenazas impulsadas por la IA y cómo Tanium está construyendo una gestión de endpoint autónoma para ayudar a los equipos a actuar sobre el potencial de la IA con confianza y control.
Beneficios de usar la IA en la ciberseguridad
Aunque aún no se comprenden el alcance y las implicaciones totales de las capacidades de IA dentro de la industria de la ciberseguridad, esta es una descripción general simplificada de las áreas problemáticas comunes y las aplicaciones de los sistemas impulsados por IA muestran resultados prometedores:
Mejorar la detección de amenazas
La IA puede procesar datos a través del tráfico de red, los registros del sistema, el comportamiento del usuario y la inteligencia de amenazas externas para descubrir anomalías que pueden indicar actividad adversaria. Eso incluye tipos de ataques conocidos como ransomware y phishing, así como amenazas previamente no vistas como exploits de día cero y amenazas persistentes avanzadas (APT).
Respaldar la búsqueda proactiva de amenazas
La IA puede hacer que la búsqueda de amenazas sea más rápida y precisa. Los métodos tradicionales a menudo dependen del análisis manual y las reglas estáticas, que pueden ser lentas y pueden pasar por alto amenazas sofisticadas.
La IA acelera este proceso analizando el tráfico de red, el comportamiento del usuario y los datos históricos de incidentes para identificar patrones y anomalías que indican actividad maliciosa, ya sea que la amenaza sea conocida o nueva.
Acelerar las respuestas a incidentes ante amenazas de seguridad
La IA puede ayudar a minimizar el impacto de los ciberataques al automatizar las acciones de respuesta iniciales y priorizar los incidentes en función del riesgo real. Esto permite a los equipos aislar sistemas comprometidos, dispositivos de endpoint o segmentos de red más rápido de lo que generalmente permite la clasificación manual.
La IA también puede proporcionar mitigación en tiempo real y alertas, recomendaciones y orientación altamente personalizadas a los equipos de seguridad sobre la recuperación y restauración de las funciones normales del sistema.
Acelerar la investigación de incidentes
Cuando ocurre un incidente, un analista debe adquirir, revisar y analizar muchos datos para conocer la amplitud y profundidad de un ataque. Esto puede llevar mucho tiempo y ser tedioso, especialmente al lidiar con incidentes grandes y complejos.
La IA puede ayudar a acortar ese proceso automatizando la recopilación, correlación y análisis de datos de varias fuentes, como registros, tráfico de red, puntos finales e inteligencia de amenazas. La IA también puede ayudar a los investigadores a crear de manera integral un panorama más completo del alcance y el impacto de un ataque en mucho menos tiempo.
Proporcionar prevención predictiva de amenazas
Los modelos de IA como el aprendizaje profundo pueden ayudar a prevenir ciberataques al identificar y bloquear proactivamente las posibles amenazas antes de que puedan comprometer los sistemas. La IA también puede usar diferentes algoritmos, como métodos de aprendizaje supervisados, no supervisados o semisupervisados, para aprender de los datos históricos y realizar análisis predictivos para anticipar mejor futuros incidentes.
Determinar la causa raíz
El análisis tradicional de la causa raíz se basa en la recopilación e interpretación manual de datos, que introduce el potencial de error humano y falsos positivos.
La IA puede automatizar gran parte de este trabajo, correlacionando datos en conjuntos de datos grandes y complejos para ayudar a los equipos a identificar las vulnerabilidades o configuraciones erróneas que permitieron un ataque. El resultado: una comprensión más precisa de la exposición, una postura de seguridad más estricta y más tiempo para que los analistas se enfoquen en un trabajo de mayor valor.
[Leer también: ¿Falta el análisis de ciberseguridad en su estrategia de seguridad?]
Estas capacidades funcionan mejor en combinación. La obtención de su valor total depende de la calidad de los datos, la integración en todo su entorno y la supervisión humana necesaria para actuar sobre las salidas de IA con confianza. Juntos, forman la base para una operación de seguridad más proactiva y receptiva.
Estos beneficios son un argumento convincente para la IA en las operaciones de seguridad. Pero las mismas capacidades que fortalecen sus defensas también están disponibles para los atacantes. Comprender estos riesgos es tan importante como entender la ventaja.
¿La IA realmente puede predecir futuros ciberataques?
Sí, la IA puede ayudar a predecir futuros ciberataques, pero la realidad es más matizada de lo que sugiere el titular. Las herramientas de seguridad impulsadas por IA no pronostican ataques específicos. Identifican condiciones que hacen que un ataque sea más probable.
La “predicción” en la ciberseguridad de IA implica todo el trabajo que implica detectar posibles amenazas antes de que pueda ocurrir un ataque. Es útil pensar en estas predicciones más como una observación del clima severo frente a una advertencia: las soluciones de seguridad de IA pueden “observar” para ver si todos los componentes que podrían conducir a un ataque futuro están presentes a través del monitoreo y análisis continuos, lo que permite a los equipos actuar proactivamente para identificar, contener y remediar vulnerabilidades que podrían explotarse, antes de que ocurra un “advertencia” o ataque activo.
Mediante el modelado predictivo, que es el proceso de usar algoritmos de aprendizaje automático y técnicas estadísticas para aprender de los datos históricos y mejorar su capacidad para detectar amenazas, las soluciones impulsadas por IA pueden analizar grandes cantidades de datos de varias fuentes, como tráfico de red, registros del sistema, fuentes de inteligencia sobre amenazas y comportamiento del usuario, para identificar patrones y anomalías que pueden indicar posibles amenazas, incluso si nunca se han visto antes.
¿Cómo? Dado que las herramientas de ciberseguridad de IA están diseñadas para buscar comportamientos maliciosos, se destacan por identificar amenazas de día cero en comparación con las herramientas de seguridad tradicionales diseñadas para identificar solo amenazas conocidas.
“Los métodos tradicionales de defensa, que incluyen software antivirus, parches, firewalls y otros controles de ciberseguridad, son menos efectivos contra los días cero, que son desconocidos para los proveedores y las organizaciones. Los días cero omiten las detecciones tradicionales basadas en firmas y anomalías y el software antivirus, que contienen información de firmas para ataques conocidos”.Kelly Morgan, Rol de la IA en la detección de amenazas y Zero-day Attacks1
La IA agrega claramente capacidad real a las operaciones de ciberseguridad. Pero las mismas técnicas que fortalecen sus defensas también son accesibles para los atacantes. Reconocer ambos lados de esta ecuación es fundamental para tomar decisiones sólidas sobre la adopción de la IA.
La siguiente sección examina cómo los atacantes utilizan la IA para escalar y refinar sus operaciones, y qué significa eso para su estrategia de defensa.
Riesgos de seguridad y limitaciones de la inteligencia artificial en la ciberseguridad
Aunque las organizaciones y los usuarios están incorporando la IA y la tecnología relacionada en muchos procesos comerciales diferentes, los actores de amenazas también utilizan herramientas de IA similares para causar daños de manera más rápida y fácil.
Desafortunadamente, muchos no están preparados para esta amenaza emergente de la IA. Un informe de 2023 sobre el estado de la IA por parte de la firma consultora McKinsey mostró que solo el 38 % de los encuestados estaban mitigando activamente los riesgos de ciberseguridad de la IA generativa, una estadística que se volvió aún más impactante cuando se enteró de que este porcentaje realmente disminuyó en un 13 % en comparación con los resultados del mismo estudio realizado el año pasado.
Amenazas potenciales del uso de IA en ciberataques
La creciente complejidad y sofisticación de estos tipos de incidentes de ciberseguridad basados en IA puede plantear desafíos significativos para las soluciones de seguridad tradicionales, como software antivirus, firewalls y sistemas de detección de intrusos. Dado que estas soluciones a menudo dependen de sistemas más estáticos y basados en reglas para identificar y bloquear ataques conocidos, es posible que no detecten ataques nuevos o desconocidos que exploten vulnerabilidades de día cero o utilicen técnicas avanzadas como cifrado, ofuscación o polimorfismo.
Una forma en que los actores de amenazas aprovechan la IA es realizar ataques adversarios diseñados para explotar vulnerabilidades en modelos de aprendizaje automático como redes neuronales mediante la elaboración de entradas que se ven normales para los seres humanos, pero que están diseñadas para engañar a los modelos de aprendizaje automático y manipular sus resultados. Un ejemplo de un ataque adversario es usar IA para alterar ligeramente un correo electrónico para omitir un filtro de correo no deseado corporativo.
Los ciberdelincuentes también utilizan modelos de IA generativos, que abarcan un amplio subconjunto de tipos de IA, como modelos de lenguaje grande (LLM) y procesamiento de lenguaje natural (NLP), para mejorar sus técnicas de ingeniería social. Por ejemplo, los actores de amenazas utilizan algoritmos de IA para crear correos electrónicos de phishing más convincentes. Y estos tipos de incidentes ya están sucediendo a una enorme escala.
Según un informe 2023 de la empresa de ciberseguridad SlashNext, ha habido un aumento del 1,265 % en los ataques maliciosos de phishing desde el lanzamiento de ChatGPT al final de 2022 impulsados por ciberdelincuentes que utilizan herramientas de IA generativas para escribir compromiso de correo electrónico comercial (BEC) y otros correos electrónicos de phishing.
“Algunos de los usuarios más comunes de los chatbots de modelos de lenguaje grande son ciberdelincuentes que aprovechan la herramienta para ayudar a escribir ataques de BEC y lanzar sistemáticamente ataques de phishing altamente focalizados”.SlashNext, El estado del phishing 2023
En promedio, el informe encontró que se enviaron unos 31,000 ataques de phishing diariamente. Alrededor de la mitad de los profesionales de ciberseguridad encuestados dijeron que habían recibido un ataque de BEC y tres cuartos informaron ser objetivos de ataques de phishing.
Históricamente, los correos electrónicos de phishing han sido fáciles de detectar porque incluyen palabras mal escritas, mala gramática u otras deficiencias. Sin embargo, los correos electrónicos de phishing creados por los sistemas de IA generalmente tienen tasas más altas de apertura por parte de los usuarios que los correos electrónicos de phishing creados manualmente. Mediante el uso de herramientas de IA, los phishings ahora pueden crear correos electrónicos de phishing muy personalizados y dirigidos al analizar contenido anterior para hacer que los correos electrónicos sean altamente convincentes y engañar más fácilmente a los usuarios para que hagan clic en enlaces dentro de los correos electrónicos para lanzar ataques inadvertidamente.
Los atacantes también aprovechan la IA generativa para desarrollar contenido único para evadir los controles para otros tipos de ataques basados en IA, incluidas identidades sintéticas y falsificaciones profundas. Por ejemplo, los actores de amenazas pueden usar la IA para profundizar las voces de las personas para lanzar phishing selectivo o comprometer otros vectores de ataque.
[Leer también: ¿Qué es el phishing? Cómo funciona el phishing y qué buscar]
El gobierno de los EE. UU. advierte sobre los peligros de los ciberataques basados en IA
Las crecientes preocupaciones en torno al uso de tecnologías de IA y los ataques de ingeniería social han aumentado rápidamente de ser un problema justo dentro de los sectores privados a convertirse en una discusión nacional y global, con varias agencias federales encabezando los esfuerzos para proteger a las personas y los activos de amenazas cibernéticas y físicas.
Por ejemplo, la Comisión Federal de Comercio (Federal Trade Commission, FTC) de los EE. UU. emitió esta advertencia sobre falsificaciones profundas en marzo de 2023:
Obtiene una llamada. Hay una voz en pánico en la línea. Es su nieto. Dice que está en problemas profundos: arruinó el auto y aterrizó en la cárcel. Pero puede ayudar enviando dinero. Respire profundo y piense. Ha escuchado sobre estafas de abuelos. Pero darn, suena igual que él. ¿Cómo podría ser una estafa? Clonación de voz, así es como.
Las agencias gubernamentales continúan desempeñando un rol crucial en el reconocimiento de la importancia y complejidad de la IA en la ciberseguridad y la seguridad de la infraestructura. Parte de la notable legislación federal sobre ciberseguridad incluye el Decreto Ejecutivo 14028, “Mejorar la ciberseguridad de la nación”, emitido en May 2021, que requiere que las agencias federales mejoren la ciberseguridad y la integridad de la cadena de suministro de software.
Además, la Ley de 2018 de la Agencia de Seguridad de Infraestructura y Ciberseguridad estableció la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA), cuya misión es liderar y coordinar esfuerzos para mejorar la seguridad y resiliencia de la infraestructura crítica del país. CISA también ofrece una variedad de servicios y recursos que pueden ayudar a las organizaciones a evaluar sus riesgos de ciberseguridad, implementar mejores prácticas y responder a incidentes de seguridad.
¿La IA reemplazará la ciberseguridad?
Aunque la IA es una herramienta poderosa que transforma el campo significativamente, no reemplazará todos los esfuerzos de ciberseguridad ni la necesidad de profesionales de ciberseguridad calificados.
Incluso con una serie de resultados prometedores en su aplicación para mejorar los esfuerzos de ciberseguridad, como automatizar las respuestas a las amenazas, acelerar las investigaciones de incidentes y mejorar la detección de amenazas, la IA aún no se considera una solución independiente.
Los profesionales de ciberseguridad aún son necesarios para interpretar los hallazgos de IA, tomar decisiones estratégicas y manejar situaciones complejas que la IA podría no comprender completamente. Además, a medida que los ciberdelincuentes continúan aprovechando la IA para lanzar ataques más sofisticados, la supervisión humana se vuelve aún más crítica.
La IA funciona mejor cuando se combina con la experiencia humana que trabaja junto con ellos para crear medidas de seguridad más sólidas y efectivas.
Qué significa la ciberseguridad de IA para las operaciones de seguridad
El uso de la IA y la automatización en la ciberseguridad presenta desafíos y oportunidades. Aunque los ciberdelincuentes continúan aprovechando estas tecnologías para lanzar ataques más sofisticados, los proveedores de ciberseguridad también están utilizando IA y automatización para desarrollar soluciones novedosas para contrarrestar dichos ataques.
Debe esperar que en los próximos meses haya más herramientas centradas en la IA disponibles a medida que los proveedores compitan por integrar capacidades de IA generativas, automatización de seguridad y tecnologías relacionadas para crear soluciones adaptativas para ayudar a las organizaciones a contrarrestar mejor las amenazas de ciberseguridad. Pronto, estas soluciones impulsadas por IA podrían ayudar a mejorar una amplia gama de casos de uso de ciberseguridad, como prevención de pérdida de datos, antivirus/antimalware, detección de fraude, gestión de identidad y acceso, sistemas de detección/prevención de intrusos, gestión de riesgos y cumplimiento, gestión de inventario de activos de TI y gestión de seguridad y vulnerabilidades, entre otros.
A medida que el uso de la IA y la automatización continúa creciendo, los expertos en seguridad, los equipos de ciberseguridad y las organizaciones deben estar al tanto de las últimas amenazas generadas por la IA al aprovechar también los sistemas de ciberseguridad basados en IA para mejorar sus capacidades de seguridad y resiliencia para crear sistemas de defensa cibernética aún más sólidos.
[Leer también: Por qué el director de IA está aquí para quedarse]
El futuro de la gestión de endpoint es autónomo
Tanium está liderando el camino hacia un futuro autónomo para los equipos de TI, seguridad de la información, operaciones y riesgo y cumplimiento. Estamos monitoreando de cerca las tendencias de automatización de IA y TI y creando nuestra hoja de ruta de productos en torno a estas tecnologías innovadoras que están creando una amplia gama de nuevas oportunidades emocionantes.
Autonomous Endpoint Management (AEM) es el centro de las estrategias de Tanium, marcando la evolución más ambiciosa de nuestra plataforma hasta la fecha. Sobre la base de la plataforma XEM, AEM aprovechará los datos únicos de endpoint en tiempo real de Tanium para ofrecer recomendaciones altamente personalizadas y automatizar las medidas con precisión.
Vea cómo los datos en tiempo real de Tanium impulsan Microsoft Copilot para la seguridad
Las funciones de IA de Tanium serán informadas por muchas fuentes, incluidos algoritmos de aprendizaje automático, tasas de éxito de pares y umbrales de riesgo, para empoderar a las organizaciones para optimizar y proteger mejor sus entornos de maneras que anteriormente no eran posibles con soluciones convencionales de gestión, riesgo y cumplimiento de endpoint, experiencia digital del empleado y respuesta a incidentes.
Estamos ocupados en el trabajo integrando la IA en nuestra plataforma XEM para ofrecer funcionalidades de AEM, lo que permitirá a las organizaciones administrar y proteger más fácilmente sus patrimonios de TI crecientes y complejos. Nuestra plataforma procesará millones de medidas, miles de millones de puntos de datos en tiempo real y un billón de señales en más de 33 millones de puntos finales y aprenderá de las experiencias mundiales de Tanium Community para ayudar a las organizaciones a mejorar las capacidades de toma de decisiones para combatir más fácilmente la realidad cada vez mayor que es el delito cibernético global al continuar proporcionando El poder de la certeza.
Recursos adicionales
A medida que la ciberseguridad de IA evoluciona, esta guía actuará como un recurso vivo para proporcionar actualizaciones a medida que surjan nuevos datos para continuar ayudando a las empresas a tomar decisiones más informadas sobre las mejores prácticas y los casos de uso.
Consulte estos útiles recursos de IA:
Noticias de IA de Tanium
- La IA de Tanium acelera las decisiones y los resultados con inteligencia y automatización confiables en tiempo real
- De fragmentado a unificado: impulsar la gestión autónoma de endpoint en dispositivos móviles y informáticos con Tanium Connector para Microsoft Intune
- Cuando finalmente se puede confiar en los agentes de IA y los flujos de trabajo automatizados: cómo Tanium AEM para ServiceNow transforma la empresa
- Tanium desarrolla una nueva integración de agentes de IA con Microsoft Security Copilot
- Tanium Autonomous Endpoint Management (AEM): las experiencias que escalan la ejecución de TI y seguridad
- Apoye en la respuesta autónoma a incidentes con reacciones en el punto final
Obtenga más información sobre la IA
- Descubra qué cambios de capacidad están creando nuevas superficies de ataque en entornos empresariales y qué controles de gobernanza es más probable que falten
- Descubra cómo las empresas pueden evolucionar los modelos de gobernanza para contener la expansión agente sin ralentizar la innovación
- Tipos de agentes de IA: Desde un reflejo simple hasta sistemas autónomos
- Por qué nuestro mundo de IA exige un enfoque de corrección primero para la gestión de la exposición
- Cómo los CISO pueden convertirse en 'asesores de riesgos' de IA
- Extensiones de IDE: un nuevo riesgo persistente para su organización
- La IA agente se dirige a SecOps: conozca las ventajas, desventajas y pasos a escala
- La IA está alterando la seguridad de la nube híbrida: estas 4 medidas la restauran
- Cree un programa de cumplimiento de IA listo para la auditoría aprendiendo lo que el cumplimiento de IA realmente significa en todo el ciclo de vida de la IA
- Lo que necesita saber sobre la nueva ley de IA de Corea del Sur
- ¿Qué es la IA agente? Qué saber sobre este nuevo tipo de IA
- ¿Agregar IA a sus sistemas de seguridad SOAR? Piense en “RoboCop”
- Cómo la IA está redefiniendo la prevención de pérdida de datos (Data Loss Prevention, DLP)
- Ver es creer: cómo las empresas utilizan la IA para mejorar la ciberseguridad
- Combata el fuego con fuego: 3 formas principales en que la IA impulsa su arsenal de ciberseguridad
- IA frente a humanos: por qué SecOps puede (no) ser el siguiente campo de batalla
- Cómo la IA mejora la detección de anomalías y alivia la fatiga de alerta
- 12 términos de IA que usted (y su coqueto chatbot) deben conocer ahora
- Generar diversidad en la IA: 3 nuevas contrataciones analizan la oferta y la demanda en la revolución tecnológica
- 3 consideraciones para asegurarse de que su IA sea realmente inteligente
- 4 prioridades de liderazgo críticas para los CISO en la era de la IA
Escuchar
- Nuevo episodio: Conozca Shadow AI, la nueva amenaza creciente
- Ep. 17: Copilot AI y los pasos para transformar su empresa
- Nuevo episodio: IA ética: cómo (y cuánto) podemos confiar en ella
¿Le interesa obtener más información sobre incidentes activos y ataques recientes de analistas cibernéticos profesionales? Lea nuestra serie de blogs del equipo de inteligencia de amenazas cibernéticas (CTI) de Tanium mientras revisan lo que hay en las noticias para entregar lo que necesita saber sobre los cambios en el panorama de amenazas que podrían afectar potencialmente a las empresas y la ciberseguridad.
