(ACTUALIZACIÓN: Los diputados del Parlamento Europeo han votado a favor de aprobar un borrador de la Ley de Inteligencia Artificial, disponible en June 14. Se espera que el proyecto de ley reciba la aprobación definitiva a finales de este año, tras las negociaciones con el Consejo de la Unión Europea y los Estados miembros de la UE.)
El Parlamento Europeo debate hoy una legislación histórica destinada a regular la inteligencia artificial (IA) en función del nivel de riesgo que plantee una tecnología. Se prevé que la medida se apruebe en una votación que tendrá lugar el miércoles, lo que convertirá a la Ley Europea de Inteligencia Artificial en la primera ley de Occidente que intente ejercer control sobre este ámbito en rápida evolución.
Esto sigue los pasos de China, donde publicó en abril un borrador de normativa sobre sus políticas en materia de inteligencia artificial. Y la semana pasada, el Instituto de Investigación del Reino Unido ( ) anunció los planes para la primera cumbre mundial sobre inteligencia artificial, que reunirá a una amplia gama internacional de líderes gubernamentales, directivos de empresas tecnológicas e investigadores científicos.
Mientras tanto, el enfoque de EE. UU. respecto a la regulación de la IA ha sido fragmentado, ya que los estados han promulgado sus propias leyes sobre IA —un mosaico de normativas que se pueden consultar en — , y en el Congreso se están debatiendo diversos proyectos de ley que compiten por ganar terreno con las propuestas y normas previstas por un sinfín de nuevas oficinas y grupos de trabajo de los organismos administrativos federales. Esta cacofonía, al igual que cualquier maraña de normativas , resulta confusa; le deseamos mucha suerte a cualquier empresa que intente sopesar sus opciones y obligaciones a la hora de adoptar tecnología de IA. Además, nos está ralentizando.
Si Estados Unidos aspira a liderar el mundo en materia de gobernanza de la inteligencia artificial, ahora tendrá que remontar el terreno perdido. En estos momentos, parece que ocupamos el tercer puesto. Quizás cuarto.
Aunque Estados Unidos está avanzando en el desarrollo de normas sobre inteligencia artificial, la falta de una estrategia nacional integral implica que nos vemos obligados a ir a la zaga, reaccionando ante las políticas de otros en lugar de establecer nuestras propias normas de funcionamiento.
«La falta de un enfoque más integral implica que Estados Unidos no puede presentar un modelo sobre cómo avanzar a nivel mundial en materia de gobernanza de la IA y, en cambio, a menudo se ve obligado a reaccionar ante los enfoques de otros países en materia de regulación de la IA», escribió Joshua P. Meltzer, investigador principal del Instituto Brookings, en una entrada del blog « » el mes pasado.
A continuación les ofrecemos un breve resumen de la situación actual de los principales actores en lo que respecta a la regulación de la inteligencia artificial.
La Ley de IA de la UE se centra exclusivamente en el riesgo proporcional
La Ley de Inteligencia Artificial de clasifica las aplicaciones de IA en cuatro categorías: riesgo mínimo o nulo, riesgo limitado, riesgo elevado y riesgo inaceptable.
«. Durante demasiado tiempo, estas empresas han eludido en gran medida el control regulador, pero esto no puede seguir así.»Peter Welch, senador de los Estados Unidos
Cualquier elemento que entre en esta última categoría quedaría prohibido en la UE, incluidas las aplicaciones que utilicen:
- Técnicas subliminales, manipuladoras o engañosas destinadas a alterar el comportamiento. Piense en los vídeos «deepfake» que muestran a famosos, políticos, niños víctimas de acoso y cualquier otra persona en una situación comprometedora (falsa, pero que parece demasiado real). Próximamente podrá verlos en un vídeo de TikTok de « » cerca de usted.
- Técnicas predictivas que pretenden anticipar el comportamiento delictivo. Vea en streaming la película de Tom Cruise « » , «Minority Report»y « » para obtener una introducción (ficticia, pero no descabellada) sobre lo mal que pueden salir las cosas.
- La IA emocional, , es un campo en expansión en el que las máquinas pueden analizar detalles microscópicos de las expresiones faciales y las inflexiones de la voz para interpretar mejor las emociones humanas. (Sea sincero: suponemos que ha gritado a Siri o a Alexa más de una vez.) (Pronto estarán prestando atención y tomando nota.)
- El «scraping» no selectivo, , es un método de que consiste en extraer imágenes de Facebook y otras plataformas de redes sociales sin el consentimiento de los usuarios, con el fin de crear o ampliar bases de datos de reconocimiento facial. (Clearview AI es una de las empresas líderes en este sector: en abril, tal y como se puede consultar en , admitió ante la BBC que había recopilado miles de millones de fotografías de las redes sociales y las había vendido a los cuerpos de policía.)
[Lea también: Lo que el sector tecnológico puede aprender de TikTok: la confianza lo es todo]
Esa ley europea también arremete contra ChatGPT. Las empresas que trabajan en inteligencia artificial generativa —entre las que se incluyen OpenAI, propiedad de Microsoft, y su ChatGPT, o Bard, de Google—, en modelos de lenguaje a gran escala (LLM) y en otros «modelos base» tendrían que incorporar medidas de gobernanza de datos en el desarrollo de sus productos, evaluando y mitigando los riesgos para la salud, la seguridad y los derechos humanos antes de poner sus productos a disposición del público.
La normativa china hace hincapié en la conformidad
Allá por el año 2017, se desconectaron dos chatbots cuando los usuarios de una popular aplicación de mensajería compartieron en Internet capturas de pantalla de sus conversaciones entre humanos y robots. Comentarios como «Mi sueño chino es irme a Estados Unidos» y «No» (en respuesta a la pregunta «¿Ama usted al Partido Comunista?») no fueron precisamente del agrado de los censores del Gobierno, y los responsables de la agencia china encargada del ciberespacio se están asegurando de que ese tipo de situaciones embarazosas no vuelvan a producirse.
«, n.º»Un chatbot chino, al preguntársele si amaba al Partido Comunista. (Fue censurado de inmediato.)
Las nuevas «Medidas para la gestión de los servicios de inteligencia artificial generativa» ( ) de la agencia, disponibles en , recogen 20 artículos destinados a regular la conducta empresarial, entre los que se incluyen requisitos que obligan a los proveedores a asumir la responsabilidad de la legalidad de las fuentes de la IA generativa (artículo 7), a prevenir la adicción a los contenidos generados (artículo 10) y a eliminar la información personal identificable no protegida (artículo 11). Lo más inquietante, aunque no resulta especialmente sorprendente, es la exigencia del artículo 4’s de que todo el contenido generado refleje los «valores fundamentales» del Partido Comunista Chino.
China, que ya en el año 2017 (cuando aquellos alegres chatbots causaron revuelo) comenzó a redoblar sus esfuerzos por convertirse en líder mundial en tecnología de IA, parece haber logrado una ventaja considerable . Más bien se trataría de una «ventaja impresionante», tal y como la calificó un reciente estudio de un centro de investigación (financiado por el Departamento de Estado de EE. UU.), en el que se constató que China va por delante en 37 de las 44 tecnologías críticas y emergentes. Queda por ver cómo afectará esta postura intransigente en materia de regulación al desarrollo de la inteligencia artificial.
Las normas estadounidenses hacen hincapié en… ¡Un momento! ¿Qué normas?
La normativa aquí, en Estados Unidos, sigue en fase de desarrollo, y Washington (al menos hasta ahora) acepta un enfoque voluntario en materia de cumplimiento. Para ser justos, hay varios legisladores y organismos que están intentando cambiar esta situación, entre ellos:
- La Casa Blanca —Su documento «: Blueprint for an AI Bill of Rights», publicado el año pasado, establece cinco principios destinados a proteger la privacidad y la seguridad de los usuarios y a prevenir la discriminación.
- NIST —El Instituto Nacional de Estándares y Tecnología publicó en enero su Marco de gestión de riesgos de la IA « » () , junto con un manual complementario «» (), un documento explicativo « » (), una hoja de ruta « » (), una tabla de correspondencias « » () y perspectivas explicativas « » (). Son de lo más minuciosos. Por supuesto, todas las normas y directrices son de carácter meramente voluntario.
- El Congreso —Además de citar al director ejecutivo de OpenAI, Sam Altman, para que preste declaración en el Capitolio, los líderes están planteando diversas propuestas normativas. El líder de la mayoría del Senado, Chuck Schumer (D-NY) , puso en marcha en abril la iniciativa « » (), una iniciativa destinada a movilizar a los líderes del sector para que ayuden a perfeccionar una legislación que, entre otras cosas, obligaría a las empresas a permitir que un experto independiente revise las tecnologías de inteligencia artificial antes de su lanzamiento al público. Y los senadores... Michael Bennett (D-CO) y Peter Welch (D-VT) volvieron a presentar el mes pasado un proyecto de ley para crear una nueva Comisión Federal de Plataformas Digitales encargada de supervisar la tecnología digital.
«Las grandes empresas tecnológicas ejercen una enorme influencia sobre todos los aspectos de nuestra sociedad», afirmó Welch en un comunicado. «Durante demasiado tiempo, estas empresas han eludido en gran medida el control regulador, pero esto no puede seguir así».
«Necesitamos una agencia federal especializada que pueda defender a los ciudadanos estadounidenses y garantizar que las herramientas de inteligencia artificial y las plataformas digitales funcionen en beneficio del interés público», coincidió Bennett.
En realidad, eso es lo único que cualquier país desea para su población. Ya veremos quién llega primero.
