En lo más recóndito del centro de operaciones de seguridad de una empresa de la lista Fortune 500 , una IA agentiva llamada Sentinel, desarrollada por y basada en algoritmos avanzados, identifica una brecha de seguridad en un terminal cuando un empleado hace clic en un enlace de un correo electrónico de phishing . Sentinel también detecta al instante los inicios de sesión anómalos procedentes de Europa del Este y los indicios de que se está produciendo una filtración de datos. Sentinel envía a Hunter para localizar y aislar la intrusión.
Mientras tanto, el agente Defender identifica el malware como una variante del ransomware « » , perteneciente a la banda ciberdelictiva LockBit, y corrige las vulnerabilidades que los atacantes utilizaron para acceder al sistema. En cuestión de minutos, los analistas humanos reciben un informe posterior a la incidencia para su revisión, y una brecha de seguridad que podría haber supuesto pérdidas por valor de millones debido al tiempo de inactividad y a la pérdida de datos queda mitigada gracias a un trío de sistemas de inteligencia artificial, respaldados por potentes motores analíticos y una década de datos sobre incidentes de seguridad y ataques.
Aclaración: esos agentes de IA (Sentinel, Hunter, Defender) son ficticios, y el incidente es hipotético. Sin embargo, la promesa de este nuevo mundo de la ciberseguridad basada en agentes es real y está a punto de llegar —muy pronto, según los expertos del sector— a un centro de operaciones de seguridad (SOC) cerca de usted. Y se prevé que su implantación sea a gran escala: para el año que viene, alrededor del 86 % de las organizaciones esperan haber implementado agentes de IA, según la reciente encuesta « » de PagerDuty sobre IA agencial.
A diferencia de las herramientas basadas en reglas que han existido en forma de automatización robótica de procesos ( ) o de herramientas de automatización, orquestación y respuesta de seguridad (SOAR) , los agentes de IA, en la línea de Sentinel, Hunter y Defender, prometen aprender de su entorno, predecir, tomar decisiones y ejecutar respuestas dentro de tareas específicas, como aislar dispositivos comprometidos , aplicar parches a vulnerabilidades, desconectar sistemas comprometidos de la red y solicitar ayuda a otros agentes y a profesionales de la seguridad humanos cuando sea necesario.
Hay quienes sostienen que estos agentes transformarán las operaciones de seguridad; otros se muestran escépticos respecto al grado de cambio que será posible en un futuro próximo, teniendo en cuenta el estado actual de la tecnología.
Para los responsables de seguridad, las ventajas son convincentes: según los informes de los proveedores, 24/7 la supervisión de amenazas reduce drásticamente los tiempos de respuesta hasta en un 90 %, disminuye la fatiga por alertas y soluciona la escasez de personal cualificado mediante la automatización de tareas repetitivas y rutinarias. La IA con capacidad de agencia también permite una defensa proactiva , mediante el análisis del comportamiento para anticiparse a los ataques y garantizar el cumplimiento de las políticas de seguridad.
«Al principio me mostraba escéptico respecto a la IA agentiva, pero verla aplicada en aplicaciones empresariales y, posteriormente, en operaciones de seguridad me hizo cambiar de opinión», afirmó Wim Remes, consultor principal de la consultora de seguridad Toreon, con sede en Amberes (Bélgica). «La IA agentiva tiene grandes aplicaciones en la recopilación y contextualización de información para los analistas del SOC, así como en la automatización de la respuesta ante incidentes».
Sin duda, se trata de valoraciones prometedoras. Sin embargo, antes de crear esos flujos de trabajo autónomos, beneficiarse de ciclos de actualización más rápidos y generar valor empresarial en general, es necesario comprender las ventajas y los inconvenientes de la IA con agentes.
A continuación le ofrecemos una valiosa guía introductoria con consejos de expertos sobre lo que debe saber de cara al próximo año, así como las mejores formas de iniciar el proceso de integración de la IA agente en su modelo de negocio y en la arquitectura de su empresa.
El auge de la IA con capacidad de acción: su defensor (semi)autónomo
La IA tradicional le ofrece respuestas. La IA agentiva toma decisiones sin —si así lo desea— esperar a su aprobación.
«. Al principio me mostraba escéptico respecto a la IA agentiva, pero verla utilizada en aplicaciones empresariales y, posteriormente, en operaciones de seguridad me hizo cambiar de opinión.»Wim Remes, consultor principal de la consultora de seguridad Toreon
Se trata de la extensión natural de la automatización robótica de procesos, la inteligencia artificial tradicional y otros procesos determinísticos que requieren cierto nivel de criterio y toma de decisiones, en lugar de seguir manuales estrictos repletos de flujos de trabajo preestablecidos que se activan en función de escenarios predefinidos. «La IA agentiva promete colmar, con el tiempo, las lagunas que la automatización actual no puede subsanar», afirmó Scott Crawford, director de investigación en seguridad de la información de S&P Global Market Intelligence.
¿Cuál es la palabra clave en este contexto? «Con el tiempo».
Si bien los analistas coinciden en que la IA agentiva dotará a estos sistemas de mayor «capacidad de acción», existen numerosos debates sobre la rapidez con la que la IA agentiva en SecOps resultará ser un factor decisivo.
Existe un gran interés por avanzar hacia la IA agencial. Durante años, los equipos de ciberseguridad han librado una batalla perdida contra una avalancha de alertas del sistema, y sus adversarios —que crecen cada vez más rápido, están cada vez más automatizados y son cada vez más creativos— han obligado a los defensores a adaptarse constantemente. Y combata la fatiga por alertas. Y « » aborda el agotamiento profesional:. Las herramientas tradicionales basadas en reglas, con sus guiones estáticos y su lógica frágil, sencillamente no podían seguir el ritmo. «Ese es el verdadero valor que esto tiene», añadió Remes. «Reducir la carga cognitiva de los analistas, por ejemplo, recopilando información sobre una alerta, los activos relacionados, incidentes anteriores y los análisis de vulnerabilidades de —en lugar de limitarse a automatizar acciones como el bloqueo de cuentas y similares», afirmó.
[Lea también: 4 prioridades de liderazgo críticas para los CISO en la era de la IA]
A continuación le explicamos cómo la IA con capacidad de acción podría ayudar a cambiar esa situación:
- De la fatiga por alertas a la acción autónoma —El equipo medio de operaciones de seguridad de una empresa se enfrenta a miles de alertas al día, la mayoría de las cuales son falsos positivos o de bajo riesgo. Los analistas humanos, que ya se ven desbordados por la falta de personal, se ven obligados a clasificar los incidentes, investigarlos y responder a ellos, lo que a menudo les impide detectar las señales sutiles de una violación real de la seguridad. Las capacidades analíticas y la capacidad de respuesta autónoma de la IA agentiva prometen un nuevo enfoque.
- Detección y respuesta automatizadas ante amenazas —Los sistemas de IA de tipo «agent» recopilan datos procedentes de la nube, la red y los terminales, identificando patrones anómalos que indican posibles amenazas. En cuanto detectan una amenaza, pueden aislar de forma autónoma los dispositivos afectados, bloquear el tráfico malicioso o revocar credenciales; acciones que antes llevaban horas y que ahora se realizan en segundos.
- Manuales de actuación dinámicos —Los planes estáticos de respuesta ante incidentes suelen fallar, por lo que muchos profesionales de la seguridad esperan que pronto pasen a ser cosa del pasado. La IA agentiva elabora guías de actuación dinámicas y sensibles al contexto que adaptan las respuestas al panorama de amenazas en constante evolución. Puede priorizar incidentes, investigar anomalías e incluso coordinar estrategias de contención de varios pasos, tal vez sin necesidad de esperar a la aprobación de un operador humano.
- Aprendizaje continuo, memoria de elefante —Cada interacción, cada suceso, se convierte en datos de entrenamiento y, al igual que la memoria de Internet, la IA nunca olvida. La IA agentiva perfecciona sus modelos con cada interacción, mejorando las tasas de detección y reduciendo los falsos positivos con el paso del tiempo. El SOC gana en velocidad a medida que se vuelve más inteligente.
- Defensa proactiva y aplicación del modelo «zero-trust» —La IA agentiva aprovecha el análisis de comportamiento para detectar desviaciones respecto a la actividad habitual, señalando vulnerabilidades de día cero y amenazas internas antes de que se agraven. Mediante la supervisión continua del comportamiento de los usuarios y el nivel de criticidad de los activos, aplica políticas de «cero confianza» ( ), lo que garantiza que el acceso esté siempre justificado en función del contexto y se ajuste de forma dinámica.
[Lea también: Lo que debe saber sobre la nueva ley de inteligencia artificial de Corea del Sur]
Los escollos y peligros de la IA agentiva
Los entusiastas de la IA agentiva reconocen que, a pesar de ese potencial, no todo será un paraíso en materia de seguridad, y que llegar a contar con centros de operaciones de seguridad (SOC) impulsados por la IA agentiva no será tan sencillo como pulsar un interruptor.
«Esta tecnología no resulta necesariamente fácil de implementar.»David Marcus, técnico superior en seguridad federal e ingeniero principal de Intel
«Esta tecnología no es necesariamente fácil de implementar y, además, planteará una serie de nuevos retos», afirmó David Marcus, técnico superior en seguridad federal e ingeniero jefe de la empresa fabricante de chips Intel.
Entre dichos retos se encuentran la integración con los sistemas heredados, debido a sus formatos propietarios y a sus lenguajes de programación obsoletos, así como la falta de compatibilidad con los marcos modernos de inteligencia artificial que requieren interfaces de programación de aplicaciones (API) para el intercambio de datos en tiempo real. Sin estas capacidades, la IA autónoma del SOC no dispondrá de los datos necesarios para llevar a cabo acciones fundamentadas y oportunas.
Estos retos se suman a los obstáculos habituales relacionados con los datos, como los problemas de calidad y preparación de los mismos, entre los que se incluyen la normalización de los formatos de datos, la limpieza de registros obsoletos y la eliminación de datos inexactos o que carecen de los metadatos necesarios.
Además, todos los retos asociados a los seres humanos se aplican también a los agentes de IA, debido a su mayor acceso a herramientas y datos, así como a su capacidad para actuar de forma autónoma. Esto las hace vulnerables a la usurpación de privilegios y al robo de credenciales. Esto es igual que en el caso del personal humano, en el que los atacantes pueden suplantar la identidad de los agentes y realizar tareas no autorizadas que causan daños, interrumpen el servicio y exponen datos confidenciales.
A gran escala, estos riesgos se agravan a medida que las organizaciones implementan más agentes en los distintos equipos y flujos de trabajo, lo que a menudo conduce a una expansión desordenada de la IA basada en agentes , en la que los sistemas autónomos proliferan más rápido de lo que pueden adaptarse los mecanismos de gobernanza, visibilidad y rendición de cuentas.
[Read also: How AI is redefining data loss prevention]
También existe el riesgo de una dependencia excesiva de la IA, lo que podría provocar una «ceguera ante las alertas» si la supervisión humana disminuye a medida que la confianza aumenta en exceso y se relajan los controles humanos. «La automatización total sin una madurez de los procesos entraña riesgos», añadió Remes. «Se debe comenzar con procesos manuales, pasar después a la automatización controlada por personas, luego a la automatización supervisada por personas y, solo al final, a la automatización total». «Las organizaciones deberían ir incorporando la IA agentiva a medida que los procesos vayan madurando».
5 pasos hacia una IA agente más segura
Los responsables de seguridad aprenden a alcanzar el nivel adecuado de autonomía y control sobre estos agentes, aprovechando la rapidez de la IA agentiva, pero sin renunciar a la capacidad de tomar decisiones críticas.
«Este es uno de los problemas que observamos con cada una de estas grandes oleadas tecnológicas. Hablamos de los aspectos positivos, pero no dedicamos el tiempo suficiente a analizar los aspectos negativos.»Scott Crawford, director de investigación en seguridad de la información de S&P Global Market Intelligence
«Es necesario encontrar un equilibrio en este asunto», afirmó Crawford. «Este es uno de los problemas que observamos en cada una de estas grandes oleadas tecnológicas. A menudo hablamos de los aspectos positivos, pero no dedicamos el tiempo suficiente a analizar los aspectos negativos para lograr un equilibrio adecuado en la conversación. «Por desgracia, lo que esto provoca es que la gente se entusiasme muchísimo ante el potencial, pero luego no reflexiona sobre las consecuencias de aquello en lo que podrían estar metiéndose».
Existen varias medidas que las empresas pueden adoptar para garantizar que logran ese equilibrio:
1. Establecer marcos sólidos de gobernanza de la IA con capacidad de acción
Comience por elaborar políticas y directrices claras que describan cómo se utilizará la IA autónoma en sus operaciones de seguridad, incluyendo las normas de toma de decisiones y el cumplimiento de las normas del sector .. De este modo se garantiza que todas las personas de la organización comprendan los límites y las responsabilidades, lo que incluye el registro adecuado de los agentes que se van a utilizar, y se reduce el riesgo de uso indebido o de problemas legales. Revise y actualice periódicamente estos marcos para adaptarlos a las nuevas amenazas o normativas, fomentando así una cultura de responsabilidad.
«. Contamos con numerosos miembros de nuestro equipo que están creando sus propios agentes autónomos, lo cual es fantástico». Pero debemos… asegurarnos de que se redacten y desarrollen siguiendo las medidas de seguridad adecuadas.»Jeffrey DiMuro, subdirector de seguridad de la información (CISO), ServiceNow
Esta es una de las razones por las que Jeffrey DiMuro, subdirector de seguridad de la información (CISO) de ServiceNow —quien anteriormente dirigió la gobernanza de datos, los riesgos de seguridad y los riesgos de terceros en la empresa—, advierte sobre la proliferación de la IA autónoma sin dicha gobernanza.
«Contamos con numerosos miembros de nuestro personal que están creando sus propios agentes autónomos, lo cual es fantástico», afirmó. «Pero debemos… asegurarnos de que se redacten y desarrollen siguiendo los mecanismos de control adecuados, y debemos registrar dichos [agentes], así como asegurarnos de que no se dupliquen esfuerzos, de modo que todo el mundo en nuestro entorno tenga acceso a herramientas que hayan sido validadas».
2. Establezca límites para la IA agente mediante un control de acceso granular
Aplique controles detallados sobre a qué pueden acceder y qué pueden hacer los agentes de IA, utilizando modelos como los permisos basados en roles y los principios de «confianza cero» para limitar la exposición. Esto evita acciones no autorizadas y protege los activos críticos frente a posibles amenazas. Estos controles aportan tranquilidad, ya que garantizan que la inteligencia artificial mejore la seguridad sin introducir nuevas vulnerabilidades.
Por ejemplo, un agente de seguridad podría tener acceso de solo lectura para investigar alertas y consultar registros, pero no puede aplicar medidas correctivas: marca una cuenta sospechosa para que sea revisada por personal humano, en lugar de desactivarla. Es posible que otro agente aísle automáticamente un terminal comprometido, pero no pueda acceder al sistema de gestión de identidades para restablecer las credenciales. Un tercero puede aplicar parches a las aplicaciones vulnerables, pero no puede modificar las reglas del cortafuegos.
3. Impulsar el trabajo en equipo de la IA agentiva mediante una defensa en profundidad
Establezca múltiples niveles de protección en torno a los sistemas de inteligencia artificial, de modo que, si uno falla, los demás puedan tomar el relevo para mantener la protección.
Un agente del SOC podría detectar y aislar un terminal comprometido, pero una capa de segmentación de red independiente impide que dicho terminal realice movimientos laterales. Un agente de gestión de parches automatizado de aplica las actualizaciones, pero un sistema independiente de reversión permite revertir los cambios en caso de que los parches provoquen fallos en aplicaciones críticas. Este enfoque por capas mitiga el impacto de cualquier incidente aislado, lo que garantiza la estabilidad de las operaciones. Fomenta una estrategia de seguridad resiliente que se ajusta a los objetivos de continuidad del negocio.
4. Combinar la IA agentiva con la supervisión humana
Mantenga la participación de personal con experiencia en la supervisión y aprobación de las decisiones clave relacionadas con la IA, especialmente en situaciones de gran importancia. Este modelo híbrido aprovecha el criterio humano para complementar los puntos fuertes de la inteligencia artificial, lo que permite reducir los errores y mejorar la fiabilidad. La supervisión garantiza el cumplimiento de los principios éticos y permite intervenir con rapidez cuando sea necesario.
«. Sigue siendo necesaria la intervención de una persona». Y eso es lo que se conoce como «confía, pero verifica».»DiMuro
«Si se va a permitir que un asistente —me referiré a la IA agentiva como un asistente que tiene acceso a más información de la que yo he tenido jamás— correlacione esos datos y me ayude a avanzar más rápido, seguirá siendo necesaria la intervención de un ser humano en el proceso». «Y eso es lo que se conoce como “confía, pero verifica”», aconsejó DiMuro.
5. Implemente pruebas y validaciones continuas de la IA agentiva
Simule periódicamente ataques y situaciones hipotéticas para poner a prueba el rendimiento de la IA y detectar puntos débiles antes de que afecten a las operaciones reales. Este proceso continuo garantiza la solidez del sistema frente a las amenazas en constante evolución.
Por supuesto, se aplica la regla de oro de la informática: «si entran datos erróneos, salen datos erróneos». Las organizaciones deben centrarse en garantizar que los datos que introducen en los sistemas de inteligencia artificial sean precisos y seguros.
La tríada de la IA agencial: transparencia, confianza y trabajo en equipo
Asimismo, resulta fundamental hacer que los procesos de toma de decisiones basados en la inteligencia artificial sean más comprensibles, utilizando herramientas que expliquen cómo se llegan a los resultados y registrando todas las acciones para facilitar su revisión.
«. Aunque la IA agentiva puede resultar eficaz en la actualidad, es fundamental contar con niveles adecuados de transparencia y explicabilidad para garantizar la confianza y una buena gobernanza.»Michael Farnum, director ejecutivo de Cybr.SEC.Community
Esto fomenta la confianza entre los equipos y las partes interesadas, lo que permite identificar rápidamente cualquier problema o anomalía. Los sistemas transparentes también facilitan la realización de auditorías más eficaces y contribuyen a demostrar el uso ético de la IA ante los organismos reguladores y los socios.
«Aunque la IA agentiva puede resultar eficaz en la actualidad, es fundamental contar con niveles adecuados de transparencia y explicabilidad para garantizar la confianza y una buena gobernanza», afirmó Michael Farnum, antiguo director de seguridad de la información (CISO) asesor en la consultora tecnológica Trace3 y, en la actualidad, director ejecutivo de Cybr.SEC.Community, una empresa dedicada a la organización de eventos sobre ciberseguridad con sede en Houston.
Por último, el equipo del SOC debe estar preparado para la IA, y el personal de debe recibir la formación adecuada. Los responsables deben evaluar la infraestructura actual de su organización, el grado de preparación de los datos, las competencias del equipo y la cultura de la empresa para identificar las carencias antes de implementar la IA, garantizando así una puesta en marcha sin contratiempos. La oferta de programas de formación ayuda a los empleados a colaborar de forma eficaz con las herramientas de inteligencia artificial, lo que les permite centrarse en tareas de mayor valor. Esta preparación tiene como objetivo minimizar la resistencia y maximizar las mejoras en la productividad derivadas de la integración de la inteligencia artificial.
Queda por ver si agentes como nuestros personajes ficticios Sentinel, Hunter y Defender lograrán integrarse de forma permanente como miembros de los equipos de operaciones de seguridad modernos. Sin embargo, por el momento están aquí y parecen estar resultando de ayuda, por lo que los responsables de seguridad deben familiarizarse con ellas, llegar a comprender sus puntos fuertes y débiles, y sacarles el máximo partido.
A sus equipos de seguridad, que se encuentran sometidos a una gran presión, sin duda les vendría bien un poco de ayuda.
