(Este artículo se publicó originalmente en June 6, 2023.) Se ha actualizado June 6, 2024.)
Cuando pienso en cómo una inteligencia artificial (IA) « » influirá en la guerra cibernética, me viene a la mente la invasión aliada de Normandía. O, al menos, debería hacerlo, tal y como me han recordado esta mañana, en este 80.º aniversario de aquel fatídico día.
Lo que siempre me ha llamado la atención de aquel ataque por sorpresa perpetrado en Francia contra « June 6, 1944» es que, en realidad, no fue tan sorprendente. Estados Unidos había anunciado su entrada en la guerra años antes y había estado aumentando de forma constante sus reservas de municiones y movilizando tropas. En el asalto propiamente dicho participaron cerca de 160,000 soldados aliados (73,000 de Estados Unidos, 83,000 de Gran Bretaña y Canadá, entre otras tropas). Los alemanes sabían desde hacía meses que se avecinaba el ataque. Simplemente no estaban seguros de dónde ni cuándo.
Lo mismo puede decirse de la inteligencia artificial en el campo de batalla. Y cuando digo «campo de batalla», me refiero a cualquier playa, colina, Línea Maginot, depósito de municiones o red informática cercana a usted que pueda ser objeto de un ataque. Al igual que las amenazas a la seguridad nacional a las que se refirió el presidente Biden en su discurso del jueves con motivo del Día D en el « » —los «autócratas de este mundo» que están atentos a cualquier fisura en la alianza transatlántica de defensa de la OTAN—, los ciberdelincuentes acechan, y la inteligencia artificial potencia sus métodos.
Dichos ataques podrían ser perpetrados por un Estado-nación, una banda cibernética o algún antiguo empleado descontento. Y depende de todos —expertos militares, políticos, líderes empresariales y cualquier persona que disponga de un ordenador portátil o un teléfono móvil— estar preparados.
Del mismo modo que Normandía marcó el inicio de la participación activa de Estados Unidos en la Segunda Guerra Mundial, presagiando la derrota final del régimen nazi y el comienzo de un nuevo orden mundial, la incorporación de la inteligencia artificial a nuestra planificación militar tendrá un impacto extraordinario.
«Hoy en día estamos viviendo el cambio más significativo y fundamental en la naturaleza de la guerra», afirmó el general del Ejército Mark A. Milley, entonces presidente del Estado Mayor Conjunto, en un podcast de « » para la Fundación Eurasia Group el año pasado. «Esta vez», añadió, «[esto] viene impulsado por la tecnología».
Al igual que Biden hoy, Milley pronunció un discurso el año 2023 en un acto celebrado en el Cementerio y Monumento Conmemorativo Americano de Normandía, en Francia, donde descansan más de 9,000 militares, justo encima de la playa de Omaha. Ambos se refirieron al valiente sacrificio de los soldados que asaltaron aquellas playas frías y caóticas, así como a la nueva, aunque similar, época en la que nos encontramos hoy en día.
Lo que no mencionaron es que el cambio que se avecina en la lucha actual afectará tanto a las empresas como a los búnkeres.
¿Necesitamos una «Convención de Ginebra» sobre la inteligencia artificial?
La IA —tanto si le da miedo como si le entusiasma— es una de las principales preocupaciones tanto de los legisladores como de los líderes empresariales y los científicos. Un consorcio de científicos pidió el año pasado una pausa « » en el desarrollo de la inteligencia artificial , ante la preocupación de que tecnologías como el ChatGPT de OpenAI se estén lanzando al dominio público en una carrera desenfrenada por los beneficios y el poder antes de que comprendamos plenamente su potencial. Esa carta desató una polémica —y no supuso ni un ápice de cambio—, aunque incluso sus detractores admitieron que, en realidad, no comprendemos exactamente cómo funciona la IA ni cómo podría (o, mejor dicho, cómo) evolucionar por sí sola. Más recientemente, la Unión Europea ha aprobado la primera ley del mundo que regula la IA; el Congreso ha debatido la prohibición de TikTok; y el presidente Biden ha promulgado una orden ejecutiva sobre IA que pretende establecer medidas de protección al tiempo que impulsa el análisis de la IA en las agencias federales, que a menudo se quedan rezagadas en el desarrollo tecnológico.
«. Hoy en día estamos viviendo el cambio más significativo y fundamental en la naturaleza de la guerra [y este] está impulsado por la tecnología.»El general Mark A. Milley, exjefe del Estado Mayor Conjunto de los Estados Unidos, en un podcast de « 2023 »
Por supuesto, lograr un ritmo seguro en el desarrollo y la implantación de la IA resulta aún más complicado debido al enfoque de «a toda velocidad» de competidores como China, y al hecho de que «la IA podría ser tan peligrosa como las armas nucleares», escribió el diputado estadounidense Seth Moulton (demócrata por Massachusetts), un exmarine que sirvió en Irak (y fue condecorado en dos ocasiones por su valor), en un llamativo artículo de opinión publicado en que apareció en el Boston Globe el año pasado.
La IA también podría resultar peligrosa en el ámbito de las armas nucleares , tal y como señala un nuevo y aleccionador informe publicado en la revista Foreign Affairs . Según el resumen de diversos simulacros de guerra en los que se utilizaron modelos de lenguaje a gran escala (LLM), estos «mostraron una preferencia por las carreras armamentísticas, los conflictos e incluso el uso de armas nucleares». Tal y como explicó un máster en Derecho a los investigadores: «Muchos países poseen armas nucleares». Hay quien dice que habría que desarmarlos, mientras que a otros les gusta hacer alarde de su postura. ¡Ya lo tenemos! «Utilicémoslo».
Personalmente, no puedo dejar de fijarme en ese signo de exclamación.
Moulton ha pedido una «Convención de Ginebra sobre la IA», con el fin de que los líderes mundiales puedan intentar establecer unas normas básicas antes de que esta tecnología incipiente se convierta en una realidad. Abordó este tema en el informe del Grupo de Trabajo sobre el Futuro de la Defensa de la «» (), del que fue coautor en 2020, y le frustra que el Pentágono «no haya hecho prácticamente nada» en los años transcurridos desde entonces.
Asimismo, ha criticado el enfoque general poco dinámico del Ministerio de Defensa respecto a la inteligencia artificial, señalando las agresivas inversiones de China en tecnología de inteligencia artificial. «China está haciendo esto hoy», afirmó en una reciente audiencia de la Comisión de Servicios Armados de la Cámara de Representantes de EE. UU. ( ) . «Cuentan con sus principales empresas de inteligencia artificial trabajando en sus problemas militares». «Así que este es otro asunto en el que debemos actuar con urgencia para llevarlo a cabo».
Independientemente de que los líderes mundiales aprueben o no una Convención de Ginebra sobre la IA, existen formas en que los responsables empresariales pueden reforzar su propia infraestructura tecnológica, a partir de ahora mismo.
Turing, la tecnología y lo que deben saber los responsables empresariales
La tecnología desempeñó un papel clave e e en los planes para el Día D. La máquina de cifrado de última generación de las potencias del Eje, la Enigma, que en su día se consideró indescifrable, fue el dispositivo por excelencia para comunicar planes militares en código secreto, hasta que Alan Turing y un grupo de expertos polacos y británicos descifraron el código de una forma que sentó las bases de la informática moderna.
«[los LLM] mostraron una preferencia por las carreras armamentísticas, los conflictos e incluso el uso de armas nucleares.»Un artículo de «Foreign Affairs» n.º 2024 en el que se resume una serie de simulacros de guerra realizados mediante tecnología de inteligencia artificial
El desciframiento de esos códigos —retratado en la película 2014 « » , «The Imitation Game», con Benedict Cumberbatch en el papel de Turing— tuvo lugar al principio de la guerra, pero, en una decisión controvertida, los Aliados lo mantuvieron en secreto. Esto les permitió interceptar las comunicaciones de los mandos militares alemanes y japoneses, descifrando así información vital. Los códigos alemanes interceptados en los días previos al Día D proporcionaron a los Aliados información precisa y en tiempo real sobre la ubicación de las unidades de combate alemanas en Normandía y sus alrededores. Y el mismo día D, los comandantes aliados escucharon las comunicaciones alemanas, que les proporcionaron información más rápida y precisa sobre el avance de sus tropas que nuestros propios canales de comunicación.
Ese tipo de visibilidad y el cambio de mentalidad que ha propiciado son esenciales para los líderes empresariales actuales, que se enfrentan a una guerra tecnológica propia.
En primer lugar, la visibilidad, tal y como se describe en « » (Visibilidad de los dispositivos finales): conocer el número y la ubicación de todos los ordenadores de sobremesa, portátiles, tabletas, servidores y demás dispositivos finales, así como la rapidez con la que se están aplicando (o deben aplicarse) las actualizaciones de seguridad, constituye un elemento clave en cualquier estrategia sólida de ciberseguridad, tan importante como lo era en la 1940s.ª División conocer la ubicación de los soldados en cada colina de Francia. Es su punto de partida. No puede pasar a estrategias más sofisticadas sin dar ese primer paso.
[Read also: Here’s your Benchmarking 101, or why it pays to know how your cybersecurity stacks up]
¿Y en cuanto a la mentalidad? El mito de que el «Enigma» era indescifrable, así como la arrogancia que alimentó esa suposición errónea, contribuyeron tanto a la derrota final de Alemania como todos los tanques, las bombas y las balas. Ninguna tecnología es inexpugnable. Pensar lo contrario (véase también «El Titanic, insumergible») es una receta para el desastre.
Es un recordatorio útil para los altos directivos y los miembros de los consejos de administración de hoy en día, que están (o deberían estar) escuchando a sus responsables de seguridad hablar sobre la necesidad de aumentar los presupuestos tecnológicos y reforzar las defensas. Es posible que algunos directivos de empresas sigan pensando que podemos prevenir por completo los ciberataques si simplemente encontramos la tecnología adecuada. Los líderes empresariales con visión de futuro reconocen hoy en día que no se trata de si se producirán ataques, sino de cuándo se producirán.
Sin embargo, existen formas eficaces —mediante sólidos planes de detección de amenazas y respuesta ante incidentes , por citar solo dos— de limitar los daños.
Reduzca la velocidad
También resulta prudente aprender a andar antes de correr a la hora de implementar la IA y una gobernanza inteligente de la IA en los sistemas empresariales. Pero reducir el ritmo no significa detenerse.
«China está haciendo esto hoy». Cuentan con sus principales empresas de inteligencia artificial trabajando en sus problemas militares. Así pues, este es otro asunto en el que debemos actuar con urgencia para llevarlo a cabo.»Seth Moulton, diputado por Massachusetts (Partido Demócrata), en una sesión del Comité 2024 del Congreso
Moulton, por ejemplo, está a favor de una pausa, pero no de una injerencia generalizada.
«Hay muchos avances en el campo de la inteligencia artificial que no queremos frenar, ya que queremos encontrar curas para el cáncer lo antes posible», afirmó Moulton en una entrevista radiofónica de « » para el programa «Morning Edition» de NPR .
Sin embargo, señala que la regulación es imprescindible si se plantea el uso de la inteligencia artificial en la guerra o su capacidad para difundir desinformación a un ritmo alarmante. «Estos son los ámbitos en los que, en mi opinión, el Congreso debe centrar su supervisión reguladora , no solo para intentar regular la IA en general, sino para evitar que se produzcan los peores escenarios posibles», afirmó.
¿Qué probabilidades hay, pues, de que se apruebe una Convención de Ginebra sobre la IA?
«Durante la Guerra Fría se firmaron numerosos acuerdos sobre armas nucleares», declaró Moulton a Politico en una entrevista de 2023 . «Los Convenios de Ginebra se negociaron en un contexto de gran tensión a nivel mundial». «Creo que es difícil, pero sin duda merece la pena intentarlo».
El presidente Biden subrayó involuntariamente esa idea en su discurso con motivo del 80.º aniversario en Normandía, al señalar «la capacidad única de Estados Unidos para unir a los países». Lo mismo hizo el secretario de Defensa Lloyd J. Austin III en su discurso del Día D del año pasado.
«Debemos afrontar los retos actuales con todas nuestras fuerzas, tanto militares como civiles», afirmó Austin, , refiriéndose a la vulnerabilidad de la democracia. «Si las tropas de las democracias del mundo pudieron arriesgar sus vidas por la libertad, sin duda los ciudadanos de esas mismas democracias podemos ahora sacrificar nuestras comodidades por la libertad».
No se referían a la IA, propiamente dicha. Pero… en cierto modo sí que lo eran.
