Entre la avalancha de novedades que se produjeron la semana pasada en el ámbito de la inteligencia artificial (IA), la amplia orden ejecutiva del presidente Joe Biden titulada « » ( ) podría constituir una hoja de ruta crucial —o un obstáculo— para las empresas que compiten por sacar partido de esta tecnología revolucionaria.
Emitida justo antes de la primera cumbre mundial sobre seguridad de la IA « », celebrada en Londres, la orden de Biden establece las normas de seguridad y protección de la IA, nuevas medidas de protección para los consumidores y los trabajadores, así como salvaguardias contra los sesgos que deberán desarrollar el sector y los organismos federales. Piense en ello como un conjunto de medidas de protección destinadas a aprovechar y maximizar los beneficios de la IA, al tiempo que se mitigan los riesgos; se trata de un paso adelante audaz (aunque algo tardío) en la regulación de la IA en Estados Unidos.
«Esta orden ejecutiva puede ayudar a los directivos de las empresas y a los miembros de los consejos de administración a frenar antes de apostar por la IA sin reservas», afirma Safia Kazi, directora de prácticas profesionales en materia de privacidad de ISACA, una organización profesional internacional centrada en la gobernanza de las tecnologías de la información. «Esto obligará a las empresas a reflexionar sobre los riesgos asociados al uso de la inteligencia artificial».
Ir despacio no significa detenerse. Por el contrario, el decreto presidencial tiene por objeto impulsar el análisis basado en la inteligencia artificial en los organismos federales, lo que supone un estímulo para las instituciones gubernamentales que suelen ir a la zaga de los avances en el ámbito de la alta tecnología. Por ejemplo, ordena al Departamento de Salud y Servicios Sociales que elabore un «plan estratégico» sobre la inteligencia artificial en el plazo de un año. ¿Se celebrará realmente ese « »? Es difícil de decir, pero es un impulso muy necesario.
Por su parte, los líderes empresariales que buscan adelantarse a sus competidores se enfrentan al problema contrario: muchos están implantando la inteligencia artificial a una velocidad vertiginosa, sin ser conscientes de los giros bruscos que pueden encontrar en el camino.
ChatGPT se lanzó hace apenas 11 meses y, poco después, aparecieron otros chatbots basados en inteligencia artificial generativa, lo que desató una auténtica fiebre entre los consumidores y transformó los entornos laborales. Mientras las empresas se apresuran a adoptar esta tecnología incipiente, los líderes empresariales están sucumbiendo a un FOMO (miedo a perderse algo) cada vez más intenso. Esto resulta especialmente preocupante en ámbitos como la sanidad, donde los médicos y los administradores hospitalarios se han apresurado a adquirir herramientas médicas potenciadas por la inteligencia artificial —utilizadas para interpretar pruebas, diagnosticar enfermedades y aplicar tratamientos— que no han sido sometidas a las pruebas repetidas que el Gobierno suele exigir para este tipo de dispositivos, tal y como señala un nuevo informe de Politico titulado « » (La IA en la sanidad: ¿qué sabemos realmente?), disponible en .
Según explica el informe, resulta difícil predecir las repercusiones de la implantación de la inteligencia artificial, dado que las empresas que crean estos productos guardan celosamente los algoritmos que controlan sus dispositivos. Esta «caja negra» patentada protege la propiedad intelectual, pero impide que los responsables empresariales y de seguridad que utilizan estas herramientas puedan saber con exactitud hasta qué punto son (o no son) seguras o eficaces.
Es aquí donde la nueva orden de Biden podría aportar algo de claridad. En él se exponen una serie de posibles problemas y cuestiones urgentes que todos debemos tener en cuenta a la hora de adoptar y adaptarnos a las nuevas tecnologías de inteligencia artificial.
Le sugerimos —por el momento— que se centre en estos tres pasos que las organizaciones pueden seguir para avanzar de forma responsable en la revolución de la inteligencia artificial.
1. Tómese en serio la protección de datos
El problema: A diferencia de otros países, Estados Unidos carece de una ley nacional integral que proteja la privacidad de los datos.
Lo que establece el decreto ejecutivo: El nuevo decreto de Biden insta al Congreso a aprobar una legislación sobre la protección de datos y a promover tecnologías que garanticen la privacidad.
«Esta orden ejecutiva podría ayudar a los líderes empresariales y a los miembros de los consejos de administración a tomarse un respiro antes de apostar por la IA sin reservas.»Safia Kazi, directora de prácticas profesionales en materia de privacidad, ISACA
«Es fundamental tener en cuenta la privacidad a la hora de desarrollar y utilizar herramientas de inteligencia artificial, pero algunas empresas descuidan este aspecto en los debates sobre las tecnologías emergentes», afirma Kazi en una entrevista exclusiva con « » Focal Point. «Para las empresas puede resultar demasiado fácil recurrir a prácticas abusivas de tratamiento de datos debido a la ausencia de leyes en materia de privacidad», afirma.
Lo que pueden hacer ahora los responsables empresariales y de seguridad: Presten atención a los expertos en protección de datos. Contar con personal cualificado en materia de seguridad de la información y protección de datos es más importante que nunca.
«Los profesionales de la protección de datos que tienen dificultades para transmitir la importancia de la privacidad a sus directivos pueden recurrir a este decreto para demostrar que la protección de datos es una prioridad nacional (e internacional)», afirma Kazi.
2. Contrate, no despida (al menos por ahora)
El problema: La pérdida de puestos de trabajo, que sigue siendo un tema muy controvertido.
«Hace poco hablé con un catedrático de ingeniería que participó en el desarrollo del propio GPT4 », recuerda Larry Godec, antiguo director de sistemas de información (CIO) de First American Financial y asesor de confianza en materia de inteligencia artificial de algunas de las empresas más grandes del mundo. «Sostuvo que no sustituirá a los puestos de trabajo, sino que simplemente mejorará a los seres humanos».
«En los próximos uno o dos años, es probable que asistamos a una auténtica revolución [de la IA], como no se ha visto desde los inicios de Internet.»Larry Godec, asesor de confianza en materia de inteligencia artificial y antiguo director de sistemas de información de First American Financial
Godec no está de acuerdo. En una entrevista exclusiva para con Tanium, una empresa líder en ciberseguridad y transformación empresarial (propietaria de esta revista), Godec explicó que la implantación de la inteligencia artificial provocará inevitablemente la pérdida de puestos de trabajo y alterará los sectores.
«En el próximo año o en los dos próximos años, es probable que asistamos a una auténtica revolución, como no se ha visto desde los inicios de Internet», afirma. «Se prevé que tenga una envergadura similar, si no mayor, que la de Internet». «Habrá personas que perderán sus puestos de trabajo y otras que tendrán que buscar —muy rápidamente— otros empleos o trayectorias profesionales».
Aún está por ver cuán dolorosa será esa transición. Una cosa sí sabemos: Los despidos suponen una amenaza para la ciberseguridad y pueden provocar un aumento de los riesgos internos.
Lo que establece el decreto ejecutivo: El decreto tiene por objeto desarrollar un conjunto de buenas prácticas para «mitigar los perjuicios y maximizar los beneficios de la IA», así como elaborar un informe sobre los efectos previstos de la IA en el mercado laboral, identificando las formas en que el Gobierno puede apoyar a los trabajadores que se enfrentan a perturbaciones laborales.
Lo que pueden hacer ahora los responsables empresariales y de seguridad: Céntrese en contratar a nuevos profesionales de la seguridad con experiencia en IA (y forme a los que ya tiene), para que pueda implementar estrategias de IA que sean rentables, precisas y seguras.
Ahora no es el momento de racionalizar o reducir su equipo de seguridad.
«Tendrá que averiguar qué hacer con todos los datos dispares de los que dispone y si puede crear un modelo [de lenguaje a gran escala] para gestionarlos», explica Godec. «Además, las empresas y sus empleados tendrán que adquirir más competencias en lo que respecta a la formación o el entrenamiento de los modelos».
3. Compruebe si sus herramientas de IA presentan sesgos.
El problema: Las herramientas de inteligencia artificial son tan buenas como los datos con los que se entrenan, y cuando personas con prejuicios (es decir, todos nosotros) diseñan estas herramientas y aportan esos datos, las herramientas reproducirán y agravarán, sin darse cuenta, la discriminación, los prejuicios y otras desigualdades.
Lo que establece el decreto ejecutivo: . Ampliando las estrategias planteadas en el documento de Biden «» (Un plan para una Carta de Derechos de la IA) y en un decreto ejecutivo anterior que ordenaba a los organismos combatir la discriminación algorítmica, el nuevo decreto insta a los organismos federales a abordar los sesgos de la IA mediante la formación y la asistencia técnica, así como mediante la persecución de las violaciones de los derechos civiles relacionadas con la IA. (Ya se han tomado muy en serio lo último.) (Véase más abajo.)
Lo que pueden hacer ahora los responsables empresariales y de seguridad: Prueben, prueben y vuelvan a probar sus herramientas y modelos de IA. «Habrá una clara necesidad de mayor rigor en lo que respecta a aspectos como los protocolos de seguridad a los que debe someterse todo el código, [y] la inteligencia artificial necesitará sus propios controles de calidad», afirma Godec.
Los líderes empresariales que implementen con entusiasmo la inteligencia artificial sin comprender (ni comprobar) sus fallos pagarán las consecuencias. Las agencias federales han afirmado de forma inequívoca que las empresas de « » pueden ser consideradas responsables de los perjuicios discriminatorios y de otro tipo causados por las herramientas de inteligencia artificial que utilizan, incluso si no han desarrollado dichas herramientas. Un ejemplo claro es el de iTutorGroup, que llegó a un acuerdo en agosto en una demanda interpuesta por la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) en nombre de más de 200 candidatos a un puesto de trabajo. Aunque negó haber cometido ninguna irregularidad, el consorcio de clases particulares accedió a pagar 365,000 dólares para resolver las acusaciones de que su herramienta de selección de personal basada en inteligencia artificial rechazaba automáticamente a las candidatas mayores de 55 años y a los candidatos mayores de 60 años. Se trata de la primera demanda por discriminación presentada por la comisión en relación con la inteligencia artificial, y no parece que vaya a ser la última.
«Los trabajadores que sufren discriminación por el uso que hace una empresa de la tecnología pueden contar con la EEOC para obtener reparación», afirmó la presidenta de la EEOC, Charlotte A. Burrows, en un comunicado de prensa publicado en .
Contar con personal de TI y seguridad formado en IA —personas capaces de realizar diversas pruebas de herramientas de IA y auditorías de sesgos (algo que, desde este verano, exige la Ley de Igualdad de Oportunidades en el Empleo de Nueva York [ ] a las empresas de la ciudad de Nueva York)— protegerá a las organizaciones de demandas similares y de desastres de relaciones públicas. Lo cual significa que, sea cual sea la cantidad que acabe pagando a esas personas formadas en inteligencia artificial, será dinero bien invertido.
