Elon Musk y Steve Wozniak fueron mencionados en los titulares de ayer sobre la carta abierta de « » (), , en la que se pide una moratoria de seis meses en el desarrollo de la tecnología de inteligencia artificial (IA). Sin embargo, otras 1,100 personas —informáticos dedicados, apasionados de la tecnología y otros expertos en la materia— también se sumaron para dar la voz de alarma sobre la IA, y otro importante grupo de investigación en IA presentó el jueves su propia objeción formal, disponible en , contra la tecnología GPT-4.
Por lo tanto, merece la pena prestar mucha atención, independientemente de lo que opine sobre Musk, propietario de Twitter, Tesla y SpaceX, o sobre Wozniak, cofundador de Apple.
La carta, publicada por la organización sin ánimo de lucro Future of Life Institute, instaba a los laboratorios de IA a «suspender de inmediato, durante al menos seis meses, el entrenamiento de sistemas de IA más potentes que el GPT-4 (incluido el GPT-5, que se encuentra actualmente en fase de entrenamiento)».
GPT-4 se presentó a principios de este mes. Se trata de la última versión de la tecnología lingüística integrada en el chatbot de IA ChatGPT, que OpenAI lanzó en noviembre, lo que generó una gran expectación, titulares y publicaciones en las redes sociales. En cuestión de semanas, más de 100 millones de personas se habían registrado para utilizar esta herramienta gratuita y automatizada, un programa de IA generativa de que permite a los usuarios crear contenidos escritos que, además de ser exhaustivos —recogidos de innumerables fuentes en línea—, tienen un estilo tan coloquial que parecen haber sido redactados por un ser humano.
Otras empresas se han apresurado a lanzar al mercado chatbots similares, y empresas e industrias de todo tipo buscan con ahínco formas de integrar estas herramientas en las redes y los modelos de negocio existentes, e incluso están explorando el uso de la IA en la ciberseguridad.
«En los últimos meses, los laboratorios de inteligencia artificial se han visto envueltos en una carrera descontrolada por desarrollar e implementar mentes digitales cada vez más potentes que nadie —ni siquiera sus creadores— puede comprender, predecir o controlar de forma fiable.»Instituto para el Futuro de la Vida
«Lo último que queremos es depender tanto de la tecnología y dejarnos llevar por el entusiasmo que lleguemos a olvidar [la realidad]», afirma Krystal Jackson, becaria junior especializada en inteligencia artificial del Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown. Jackson, entrevistado ayer para «Let’s Converge», un nuevo podcast producido por la empresa de software de ciberseguridad Tanium y cuyo lanzamiento está previsto para esta primavera, señaló que dichos chatbots se alimentan y se entrenan con información que se encuentra en Internet.
[Escuche el podcast: ¿Está obsesionado con ChatGPT? [He aquí el entusiasmo y la esperanza]
«Parte de la información que hay en Internet es buena», afirma. «Hay cosas que son realmente malas y debemos dar mucha importancia al pensamiento crítico».
¿Qué es exactamente el GPT-4 y debería preocuparme?
Desde su reciente lanzamiento, los chatbots como ChatGPT se han sometido a diversas pruebas. Hasta ahora, son capaces de superar los exámenes de posgrado, desarrollar código para páginas web e incluso idear la frase de ligue perfecta basándose en los perfiles de una aplicación de citas. Además, podrían aumentar los ciberataques: al facilitar enormemente que prácticamente cualquier persona pueda crear su propio malware, , mensajes de phishing y otros contenidos peligrosos, esta nueva tecnología expondrá a las empresas a un mayor riesgo de sufrir ataques de ransomware , , amenazas internas , y ciberguerra ,.
«». Parte de la información que se encuentra en Internet es de calidad. Algunas cosas son realmente malas y debemos dar prioridad al pensamiento crítico.»Krystal Jackson, becaria junior especializada en inteligencia artificial del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown
Hace apenas unos meses, GPT-3.5 aprobó un examen simulado de acceso a la carrera de Derecho, obteniendo una puntuación que lo situaba en el 10 % inferior de la clase. GPT-4 también superó el examen, según informó OpenAI, obteniendo una puntuación que lo sitúa entre el 10 % de los mejores.
Estos bots son inteligentes. Y cada vez es más inteligente. Y no estamos preparados para lo que vendrá después, advierten los firmantes de esta carta abierta.
«En los últimos meses, los laboratorios de inteligencia artificial se han visto envueltos en una carrera descontrolada por desarrollar e implementar mentes digitales cada vez más potentes que nadie —ni siquiera sus creadores— puede comprender, predecir o controlar de forma fiable», advierte la carta.
Por este motivo, afirman, debemos hacer una pausa. Esto debería hacernos reflexionar a todos.
¿Es realista plantearse una pausa?
La carrera por desarrollar formas de inteligencia artificial cada vez más potentes se está acelerando a un ritmo sin precedentes. Y aunque muchos puedan pensar que no hay nada que se pueda hacer para detener el avance de la ciencia y la tecnología, la idea de que los avances científicos no pueden frenarse ni regularse va en contra de la realidad.
«Esto no significa una pausa en el desarrollo de la IA en general, sino simplemente dar un paso atrás respecto a la peligrosa carrera hacia modelos de «caja negra» cada vez más grandes e impredecibles, con capacidades emergentes.»Instituto para el Futuro de la Vida
Los organismos reguladores, como la Administración de Alimentos y Medicamentos de los Estados Unidos (FDA), que aprueba la venta y la comercialización de nuevos medicamentos, y el Departamento de Agricultura de los Estados Unidos (USDA), que supervisa la seguridad de los suministros alimentarios comerciales, se crearon, en parte, para proporcionar directrices a los fabricantes. Todos debemos conocer y aceptar las normas básicas de circulación antes de lanzarnos a circular por cualquier autopista.
En lo que respecta a la inteligencia artificial, todos vamos a toda velocidad por la autopista. E incluso esa famosa autopista tiene, en ocasiones, algunos límites de velocidad.
Los firmantes señalan que no resulta tan descabellado que empresas como Microsoft, Google y otras diseñen nuevas tecnologías partiendo de un entendimiento común de las directrices éticas y las medidas de seguridad, del mismo modo que los investigadores que estudian la clonación han acordado no clonar —al menos por el momento— bebés humanos, por muy rentable o inevitable que pueda parecer ese avance.
«Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar y aplicar conjuntamente un conjunto de protocolos de seguridad comunes para el diseño y el desarrollo de IA avanzada, que sean rigurosamente auditados y supervisados por expertos externos independientes», continúa la carta. «Esto no supone una pausa en el desarrollo de la inteligencia artificial en general, sino simplemente dar un paso atrás respecto a la peligrosa carrera hacia modelos de «caja negra» cada vez más grandes e impredecibles, dotados de capacidades emergentes».
Considere esto como una oportunidad para establecer algunos límites de velocidad y colocar unas cuantas señales que adviertan: «Pavimento resbaladizo cuando está mojado».
Queda por ver si los creadores de IA como Musk —quien ha advertido sobre el uso descontrolado y generalizado de la IA— realmente respetan las normas o si, al volante de sus Teslas, se saltan esas señales. Pero eso no significa que no merezca la pena instalar las señales y establecer los límites.
