Las alarmas están sonando en los departamentos de seguridad informática de todo el mundo, y esta vez el culpable no es un pirata informático ni un malware sofisticado, sino algo mucho más preocupante: la IA en la sombra.
Si ha oído hablar del término «TI en la sombra ()», en el que los empleados eluden los canales oficiales para utilizar sus propios dispositivos o programas informáticos, probablemente ya esté familiarizado con el concepto de IA en la sombra. El término hace referencia al uso no autorizado e no aprobado de herramientas de IA generativa (GenAI) —como ChatGPT, Gemini de Google y otros modelos de lenguaje a gran escala (LLM) — por parte de los empleados dentro de las organizaciones sin la autorización del departamento de TI. Y supone una amenaza cada vez mayor para los datos de la empresa.
De hecho, Gartner prevé que, para el año 2027, el 75 % de los empleados habrá adquirido, modificado o creado tecnología fuera del ámbito de control del departamento de TI, lo que supone un aumento con respecto al 41 % registrado en 2022. Por otra parte, más de la mitad (55 %) de los empleados de todo el mundo encuestados en 2023 por Salesforce admitieron utilizar herramientas de IA generativa no autorizadas en el trabajo. Se trata de una gran cantidad de código, documentos y presentaciones privados o confidenciales de la empresa que se están desarrollando e introduciendo en modelos fuera de los cortafuegos corporativos.
Si esto le recuerda aquellos días agitados en los que los empleados empezaron a ignorar las políticas de la empresa y a utilizar sus dispositivos personales para conectarse a las redes corporativas, es normal que así sea. Esa tendencia de «traer su propio dispositivo (BYOD)» al trabajo planteó cuestiones similares al personal de TI: ¿Debemos prohibir por completo esta tecnología y ofrecer alternativas aprobadas por la empresa, o debemos buscar formas de adaptarnos a ella de manera segura?
Aunque la mayoría de las empresas se dieron cuenta rápidamente de que no podían detener ese tren del BYOD que avanzaba a toda velocidad, la historia tiende a repetirse. Según se informa, empresas como Accenture, Amazon, Apple, BofA, Calix, Citigroup, Goldman Sachs, Microsoft, Northrop Grumman, Samsung, Spotify, Verizon y Wells Fargo están intentando prohibir a sus empleados el uso de herramientas de inteligencia artificial externas, como ChatGPT. Dos tercios de las 20 principales empresas farmacéuticas de la lista « » y muchas escuelas públicas también lo están haciendo.
El creciente problema de la IA en la sombra
¿A qué se deben estas medidas draconianas? Y es que, a medida que las herramientas de IA general (GenAI) se imponen como tendencia dominante, a los empresarios les preocupa que sus datos privados se compartan con sistemas de IA externos que podrían verse comprometidos o sufrir filtraciones, lo que generaría riesgos competitivos, económicos o legales.
«No es malicioso, pero sí es peligroso. Y no se trata de casos aislados.»Bernard Marr, futurista tecnológico, autor y consultor
Imagínese, por ejemplo, un equipo de marketing que utilice análisis de redes sociales basados en inteligencia artificial para descifrar el comportamiento de los clientes, optimizar las campañas publicitarias y predecir la próxima gran tendencia. Es eficaz. Sin embargo, sin la aprobación del departamento de TI, estas herramientas podrían dar lugar a que se expongan datos sensibles de los clientes o información confidencial de la empresa, lo que podría provocar filtraciones de datos y graves incumplimientos de normativas como la HIPAA o el RGPD.
«Recientemente he sido testigo de varios incidentes preocupantes entre mis clientes, en los que los empleados han compartido sin darse cuenta información confidencial con sistemas públicos de inteligencia artificial, desde planes de desarrollo de productos hasta datos financieros», afirma Bernard Marr, futurista tecnológico, autor y consultor. «No es malicioso, pero sí es peligroso». «Y no se trata de casos aislados; están ocurriendo con más frecuencia de lo que las empresas creen o quieren admitir».
Tim Morris, asesor jefe de seguridad de Tanium para América, advierte de otra tendencia «oculta» menos conocida en el ámbito de la IA: los departamentos que necesitan herramientas de IA generativa (GenAI) para llevar a cabo tareas específicas no obtienen lo que necesitan de las herramientas existentes, por lo que crean las suyas propias utilizando modelos de lenguaje grande (LLM) disponibles en el mercado. El problema de ese enfoque es que el departamento de TI no ha evaluado los modelos para su uso interno.
«Nadie entiende de dónde procede el modelo, qué contiene, cuál era su finalidad y qué función desempeña en su empresa», afirma. «Es imposible saber hasta qué punto es seguro y si está exponiendo sus datos —y a su organización— a amenazas y riesgos externos».
[Lea también: 4 prioridades de liderazgo críticas para los CISO en la era de la IA]
Marr y Morris comprenden la tendencia de las empresas a poner fin a este tipo de problemas prohibiendo el uso de chatbots externos. Marr afirma que desarrollar y ofrecer a los empleados alternativas seguras puede ser una solución viable, siempre y cuando se acerquen a las capacidades de ChatGPT, Bard y otras herramientas.
«Las soluciones propias pueden funcionar si son lo suficientemente sólidas», afirma Marr. «La clave está en igualar la potencia y la facilidad de uso de la IA destinada al consumidor».
Sin embargo, si las empresas no pueden hacerlo, afirma, los empleados encontrarán la forma de utilizar herramientas públicas, independientemente de las políticas de la empresa.
Un dato sorprendente sobre la «IA en la sombra» —y 4 medidas para combatirla—
El motivo que subyace a este incumplimiento de las normas puede sorprender a algunos directivos de empresas.
«. Sus empleados que utilizan la IA «en la sombra» tienen realmente buenas intenciones; en la mayoría de los casos, solo están intentando averiguar cómo hacer su trabajo mejor y más rápido.»Candy Alexander, CISO y líder de práctica cibernética, NeuEon Inc.
«Sus empleados que utilizan la IA «en la sombra» tienen realmente buenas intenciones; en la mayoría de los casos, simplemente están tratando de averiguar cómo hacer su trabajo mejor y más rápido», afirmó Candy Alexander, directora de seguridad de la información (CISO) y responsable del área de ciberseguridad en NeuEon Inc. En un episodio reciente de « », el podcast complementario de «Focal Point» de, « » «Let’s Converge» y , Alexander explicó su deseo de salirse de los límites del software aprobado por las empresas. «Muchos usuarios consideran que solicitar el uso de un programa informático puede suponer un proceso largo y complicado en el ámbito empresarial estadounidense. «Así que se lanzan a probar las versiones gratuitas de “rellene los espacios en blanco”».
En ese caso, intentar controlar las herramientas de IA de los empleados es como intentar pastorear gatos, ya que la tecnología está demasiado extendida y resulta demasiado útil como para mantenerla fuera de su alcance. De hecho, el 40 % de los trabajadores admite utilizar herramientas de IA generativa prohibidas en el trabajo, según revela la encuesta de Salesforce.
«Es probable que prohibir ChatGPT por completo resulte contraproducente», afirma Marr. «Los empleados encontrarán soluciones alternativas, y las empresas corren el riesgo de quedarse atrás en cuanto a capacidades clave de inteligencia artificial».
Por lo tanto, si las empresas aceptan que no pueden prohibir para siempre las aplicaciones de IA generativa de terceros, ¿cómo pueden controlar la situación y limitar la «IA en la sombra»? A continuación le presentamos cuatro estrategias que debería tener en cuenta:
1. Sensibilice a los empleados sobre los riesgos de la IA en la sombra
La primera línea de defensa es la educación. Muchos empleados no comprenden que las herramientas públicas de IA podrían revelar datos confidenciales, y el 70 % de los trabajadores de todo el mundo ha declarado a Salesforce que nunca ha recibido ni completado ninguna formación sobre el uso seguro y ético de la IA generativa. Incluso los profesionales —los equipos de seguridad informática— admiten que se trata de un terreno desconocido para ellos: el 65 % de los profesionales encuestados en un reciente estudio de Splunk titulado « » ( ) reconocen que carecen de conocimientos sobre la IA de última generación.
Expertos como Morris recomiendan que las empresas informen a sus equipos sobre los riesgos que conlleva la divulgación de información confidencial de la empresa a través de modelos de lenguaje grandes (LLM) externos y les asesoren sobre cómo evitar que eso ocurra. Estas buenas prácticas deben incluir información básica sobre cómo almacenan y procesan los datos los chatbots basados en IA, qué información es admisible compartir con estas herramientas y qué no, qué herramientas ha autorizado la organización para su uso y los pasos a seguir para notificar cualquier uso no autorizado de las mismas.
«Las empresas deben crear programas de formación exhaustivos para informar a todos sus empleados sobre los riesgos de la IA en la sombra, de forma similar a la formación en concienciación sobre ciberseguridad de que ya han recibido», afirma Morris.
2. Elaborar y aplicar políticas en materia de inteligencia artificial
El 60 % de los profesionales de la confianza digital de temen que los actores malintencionados se aprovechen de la IA generativa. No obstante, según una encuesta de ISACA, solo el 15 % de las organizaciones cuenta con políticas de inteligencia artificial para hacer algo al respecto.
«. Es necesario encontrar un equilibrio entre la innovación y el control; de lo contrario, los empleados simplemente eludirán sus restricciones.»Tim Morris, asesor jefe de seguridad para América, Tanium
«Es necesario encontrar un equilibrio entre la innovación y el control; de lo contrario, los empleados simplemente eludirán sus restricciones, tal y como hicieron con el BYOD», afirma Morris.
En concreto, Morris recomienda a las organizaciones que establezcan marcos de gobernanza de la IA que establezcan normas claras para el uso de herramientas de IA. Según él, retrasar esta medida podría llevar a los empleados a desarrollar sus propios proyectos de inteligencia artificial, eludiendo los protocolos de seguridad. La clave está en encontrar el equilibrio entre la innovación y el control, permitiendo la flexibilidad dentro de unos límites seguros.
Morris añade una salvedad: toda política sobre IA debe incluir un proceso para gestionar las excepciones. Se debe informar a los empleados sobre la política, los motivos que la justifican y cómo solicitar excepciones o herramientas adicionales. Afirma que una comunicación clara evita la frustración y reduce las posibilidades de que los empleados busquen por su cuenta herramientas de IA no autorizadas.
3. Supervise el uso de la IA mediante la seguridad de los terminales
Supervisar el uso clandestino de la IA ya no es opcional, sino imprescindible, ya que, aunque una empresa ofrezca herramientas de IA generativa razonables, siempre habrá algún individuo insatisfecho que creará su propia variante.
Las soluciones de seguridad para terminales, como Tanium (editor de esta revista), ofrecen visibilidad sobre el uso no autorizado de la inteligencia artificial mediante la detección de modelos de lenguaje grande (LLM) y scripts relacionados en los dispositivos de los empleados. Estas herramientas pueden ayudar a los departamentos de TI a detectar descargas no autorizadas, señalar actividades sospechosas y garantizar el cumplimiento de las políticas de la empresa. Los controles a nivel de red, como el bloqueo de contenidos mediante un servidor proxy, también pueden impedir el acceso a herramientas de IA no autorizadas.
4. Llevar a cabo auditorías y revisiones periódicas
El panorama de la inteligencia artificial está evolucionando con tanta rapidez que no es posible adoptar un enfoque del tipo «configurarlo y olvidarse». Los departamentos de TI deben auditar y revisar de forma continua el uso de la inteligencia artificial en toda la organización. Esto incluye supervisar el cumplimiento de las políticas de IA, analizar las amenazas emergentes y actualizar los protocolos de seguridad a medida que surgen nuevas herramientas y casos de uso.
[Lea también: Es difícil encontrar directores de IA; aquí le indicamos dónde encontrar al suyo]
La inteligencia artificial avanza a un ritmo vertiginoso, y los riesgos de seguridad se multiplican con la misma rapidez. Las auditorías y evaluaciones de riesgos continuas son fundamentales para adelantarse a posibles infracciones.
El camino a seguir
La «Shadow AI», al igual que la «Shadow IT» y el «BYOD» antes que ella, es una consecuencia natural de la rápida consumerización de la tecnología. Los empleados desean utilizar la inteligencia artificial porque les permite ser más productivos, y los departamentos de TI no pueden pasar por alto ese aumento de la productividad. Sin embargo, sin una gobernanza, una supervisión y unos controles de seguridad adecuados, la IA en la sombra podría convertirse en una bomba de relojería para las empresas de todo el mundo.
«La solución no radica en prohibir estas herramientas, sino en establecer políticas claras, formar a los empleados e implementar alternativas seguras que satisfagan las necesidades de la empresa», afirma Morris. «Al igual que toda tecnología, la IA en la sombra supone tanto un reto como una oportunidad. «Las empresas que logren encontrar el equilibrio adecuado entre innovación y seguridad prosperarán en un futuro impulsado por la inteligencia artificial».
