Christopher Nolan, el director nominado al Óscar cuya superproducción biográfica « » sobre la física cuántica y la leyenda J. Robert Oppenheimer, llegó a los cines el pasado fin de semana, ha afirmado que se inspiró en lo que se podría denominar el «dilema del botón rojo». Es la pregunta que surge en esos agonizantes segundos —a los que se dedica un tiempo considerable en pantalla en esta película de tres horas— en los que una mano tiembla a unas pocas pulgadas por encima de un gran botón rojo, un botón que, una vez pulsado, anunciará grandeza y posibilidades para la humanidad o tal vez, , juuuuuust maybe, nos borrará de la faz de la Tierra.
¿Prensa? ¿O no pulsar?
Es una pregunta retórica. Por supuesto que debe pulsar. Los seres humanos siempre se lanzan a por todas, ya sea Oppenheimer (quien dirigió el programa de desarrollo nuclear estadounidense conocido como el Proyecto Manhattan) y sus colegas científicos, que se postraron literalmente en el desierto de Nuevo México durante el ensayo nuclear «Trinity 1945 », o el último «big bang» de las grandes tecnológicas — —, que consiste en dar rienda suelta a la inteligencia artificial ante un público obsesionado por la tecnología.
La analogía con la inteligencia artificial es de lo que mucha gente hablará tras ver la película, y con razón. Existen notables similitudes entre el lanzamiento de la bomba atómica y la inteligencia artificial. El propio Nolan ha advertido de las posibilidades «aterradoras» de la inteligencia artificial y ha hablado de que los científicos de hoy en día están viviendo su «momento Oppenheimer». Según afirma, ha conocido a investigadores en inteligencia artificial que «recurren a la historia para preguntarse: “¿Cuáles son las responsabilidades de los científicos que desarrollan nuevas tecnologías que pueden tener consecuencias no deseadas?”».
Esa es una pregunta mucho mejor que «presionar o no presionar», y no es solo para los científicos. Hoy en día, los líderes empresariales, los altos directivos, los responsables de seguridad, los funcionarios públicos e incluso los consumidores deben plantearse la misma pregunta. Porque el verdadero dilema moral y la cuestión práctica que hay que tener en cuenta no tienen nada que ver con pulsar (o no pulsar) ese gran botón rojo.
Oppenheimer, como persona, estaba totalmente a favor de pulsar el botón, a pesar de los riesgos, y los historiadores nos dicen que no se arrepintió de haberlo hecho. No, lo que importa es lo que ocurre después. Y aquí, Oppenheimer, la película, puede enseñarnos mucho sobre lo que está ocurriendo (o lo que debería ocurrir) hoy en día.
El momento «¿Por qué?» de Oppenheimer
La película de Nolan tiene un alcance épico y un diseño de sonido casi operístico, con su retumbar, mientras vemos a Oppenheimer (interpretado por Cillian Murphy, protagonista de « » y «Peaky Blinders» ) en primeros planos que reflejan su angustia, abrumado por la preocupación que le suscita el poder con el que estaba jugando. Las nubes de fuego se agitan, las chispas crepitan y multitudes de estrellas ondulan por la pantalla. La película se basa en la biografía « », de Kai Bird y Martin J. Sherwin, ganadora del Premio Pulitzer 2005 , , «American Prometheus», una referencia al personaje que robó el fuego a los dioses griegos y se lo entregó a los mortales, y Nolan, sin duda, no escatima en imágenes relacionadas con el fuego.
«¿Cuáles son las responsabilidades de los científicos que desarrollan nuevas tecnologías que pueden tener consecuencias no deseadas?»Christopher Nolan, director de cine y guionista
Y, sin embargo, uno de los momentos más impactantes de la película es uno de los más tranquilos. Tras lanzar la bomba, Oppenheimer pregunta a un responsable militar del Proyecto Manhattan (interpretado por Matt Damon) si es necesario que se desplace ahora a Washington.
«Le miro y le digo: “¿Por qué?”» Damon lo recordó en una entrevista reciente en . «Y de repente uno se da cuenta: “Dios mío, ya han terminado con él”.» «Ahora bien, esto es una realidad, existe en el mundo y él no tiene control alguno sobre ello». Damon admitió que fue uno de sus momentos favoritos de la película.
Eso es, en esencia, lo que ocurrió en la vida real. Aunque la bomba convirtió a Oppenheimer en una celebridad (apareció en las portadas de las revistas Time y Life ), pronto dejó de tener relevancia en los círculos gubernamentales. Comenzó a pronunciarse en contra de la proliferación nuclear y del desarrollo de la bomba de hidrógeno. Como presidente de la Comisión de Energía Atómica, abogó por la creación de un organismo internacional, similar a las Naciones Unidas, que regulase las armas nucleares y su desarrollo. Los responsables de la toma de decisiones tardarían décadas en darse cuenta (o en admitir) esa verdad.
En cambio, los propagadores de teorías conspirativas de corte mccarthista le acusaron de ser un espía, lo que dio lugar a una audiencia gubernamental hipocrita en 1954, que Nolan narra con detalles que ponen los pelos de punta. (Sin spoilers, aunque los más curiosos pueden hacer clic en « » aquí:.) A pesar de haber sido aclamado en su día como el «padre de la bomba atómica», falleció a los 1967 años como una nota al pie de página de la historia, en una situación algo humillante.
Ahora le toca el turno a Geoffrey Hinton
Volvamos al presente: como pionero del aprendizaje profundo, Geoffrey Hinton —apodado el «padrino de la IA»— abogó por el uso de redes neuronales artificiales, y su trabajo contribuyó a impulsar el avance de la IA generativa y de los chatbots como ChatGPT. Posteriormente, en mayo, aparecieron los titulares que anunciaban que Hinton dimitía de su cargo en Google para poder expresarse con mayor libertad sobre sus temores respecto a la inteligencia artificial y su rápido desarrollo. En diversas entrevistas, ha afirmado que la IA podría convertirse en un «» superinteligente, desarrollar sus propios objetivos y crear tantos «deepfakes» que ya no sabremos qué es verdad. ¿Y en cuanto a acabar con la humanidad? « no es inconceivable», respondió.
«Las empresas tienen el deber de ganarse la confianza de la gente y de facilitar a los usuarios la toma de decisiones informadas.»El presidente Joe Biden
Estaba viviendo, como diría Nolan, su «momento Oppenheimer». Lo mismo han hecho miles de investigadores científicos y tecnológicos más, que firmaron en marzo una carta abierta de « » () en la que instaban a los líderes gubernamentales y empresariales a frenar la proliferación descontrolada de la IA, profundamente preocupados por el hecho de que aún no sabemos lo suficiente sobre la IA como para ponerla a disposición del público de forma tan generalizada.
¿Hay alguien que realmente esté escuchando? El hecho de que algunos científicos estén expresando temores sobre un dominio de los robots que parecen sacados de una película de Terminator no contribuye precisamente a su credibilidad. Lamentablemente, es necesario tener en cuenta e investigar todos los escenarios, incluso los (quizás) poco probables, y eso no se logrará de forma eficiente ni eficaz a menos que se incluya a los científicos en los debates.
Algunos responsables se están tomando en serio las peticiones de los científicos. Jenn Easterly, directora de la Agencia de Ciberseguridad y Seguridad de las Infraestructuras, criticó al sector tecnológico por utilizar, en esencia, al público como «maniquíes de pruebas de choque». La Unión Europea aprobó en junio su Ley de IA « » , y el pasado viernes el presidente Biden se reunió con los responsables de siete empresas tecnológicas clave —Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI— para anunciar un nuevo conjunto de normas que regularán cómo se desarrolla y se pone a disposición del público la IA.
«Las empresas tienen el deber de ganarse la confianza de la ciudadanía y de capacitar a los usuarios para que tomen decisiones informadas: etiquetando los contenidos que hayan sido modificados o generados por inteligencia artificial, erradicando los sesgos y la discriminación, reforzando las medidas de protección de la privacidad, y protegiendo a los menores de cualquier daño», afirmó Biden en un discurso pronunciado en la Casa Blanca en el que expuso los términos del acuerdo.
Lamentablemente, el acuerdo no es vinculante y es de carácter voluntario. Pero es un comienzo.
Las conexiones de Oppenheimer, desde Biden hasta Barbie
A lo largo de su vida, Oppenheimer abogó por una convergencia de los distintos ámbitos para que los investigadores y los gobiernos pudieran compartir información vital, un proceso que, en su opinión, no haría sino mejorar la industria nuclear y su seguridad. Esas ideas fueron descartadas inicialmente por los dirigentes gubernamentales, quienes optaron, en su lugar, por la proliferación nuclear y la compartimentación, convencidos de que se podía ganar una carrera armamentística con la Unión Soviética.
«Puede volver a su vida habitual o puede conocer la verdad sobre el universo. Ahora la decisión es suya.»La Barbie rara
En el mundo empresarial actual prevalece una mentalidad similar (basta con observar la carrera por ver quién es capaz de crear el chatbot más grande y mejor). Por eso es más importante que nunca aprender de este nuevo «momento Oppenheimer» y volver a dar voz a los científicos e investigadores en el debate. Biden ha dado pasos en esa dirección, financiando siete nuevos institutos de investigación en inteligencia artificial y reuniéndose con investigadores el mes pasado. Al fin y al cabo, son ustedes quienes están en mejor posición para comprender cómo funciona realmente esta tecnología y cuáles podrían ser sus capacidades. Como Oppenheimer intentó explicarnos, es mejor saber que no saber.
Curiosamente, « » de Barbie —la superproducción aún más taquillera que arrasó el pasado fin de semana de «Barbenheimer»— transmite un mensaje similar.
Después de que una Barbie estereotipada (la muñeca de Mattel interpretada por Margot Robbie) descubra que ha estado viviendo en una preciosa burbuja rosa, una muñeca cínica conocida como «Weird Barbie» (Kate McKinnon, exmiembro del programa «Saturday Night Live» y de «» ) le plantea un reto al estilo de un hada madrina.
«Puede volver a su vida habitual», afirma con tono solemne la Barbie Extraña, mientras sostiene un zapato de tacón rosa brillante, «o puede conocer la verdad sobre el universo», que ella representa con unas Birkenstock planas y sin gracia. «Ahora la decisión es suya».
«El primero: el tacón alto», suelta Barbie, decantándose por la fantasía llena de purpurina.
La hada madrina cínica frunce el ceño. «Tiene que querer que lo sepa, ¿de acuerdo? «Hágalo otra vez».
Contamos con un «padrino» de la IA (y una película biográfica de tres horas) que, en esencia, nos dice lo mismo. Barbie tuvo una segunda oportunidad ante este dilema, pero es posible que nosotros no tengamos tanta suerte.
