Últimamente, la vida no ha sido precisamente benévola con el gigante de las redes sociales TikTok. En primer lugar, el Congreso sometió a a un duro interrogatorio sobre sus prácticas en materia de privacidad. Posteriormente, el Gobierno del Reino Unido impuso una multa a de £12.7 millones (unos 15.8 millones de dólares) por utilizar datos personales de menores sin el consentimiento de sus padres. La lista de de gobiernos —entre los que se incluyen EE. UU., la UE, Canadá, Nueva Zelanda y Australia— que prohíben su uso a sus empleados sigue creciendo. Y en EE. UU., los usuarios que apoyan la prohibición de TikTok superan en una proporción de 2-to-1 a a los que no la apoyan.
TikTok no es el único. El escrutinio al que se ve sometido el sector tecnológico ha alcanzado su máximo histórico. Y podría decirse que criticar a las grandes empresas tecnológicas es lo único en lo que republicanos y demócratas están de acuerdo en la actualidad. «Ha llegado el momento de la ley 2023», afirmó la senadora Amy Klobuchar (demócrata por Minnesota) en NBC News, al referirse a las recientes iniciativas legislativas bipartidistas destinadas a poner freno a las grandes empresas tecnológicas. «Que sea nuestro propósito aprobar por fin uno de estos proyectos de ley».
En definitiva, todo se reduce a la confianza. Para las empresas tecnológicas, ese recurso escasea. Recuperarla es ahora una cuestión de vital importancia.
El problema: la confianza requiere conciencia ética, y la mayoría de las empresas —tanto tecnológicas como de otros sectores— carecen de un marco ético relacionado con la tecnología, según el primer informe de Deloitte titulado « : State of Ethics and Trust in Technology» (: Estado de la ética y la confianza en la tecnología), publicado en diciembre.
Se realizó una encuesta a casi 1,800 profesionales de ocho sectores (entre ellos, el tecnológico, ; los servicios financieros,; ; la sanidad,; y ; la administración pública,) sobre los enfoques éticos respecto a tecnologías emergentes como los vehículos autónomos,; la computación cuántica; y la realidad aumentada o la realidad virtual,. El estudio reveló que el 87 % carecía de conocimientos o desconocía los principios éticos que rigen el desarrollo y el uso de las tecnologías emergentes en sus organizaciones.
Si bien esta conclusión es válida para todo tipo de empresas, reviste una importancia vital para las empresas tecnológicas, que actualmente operan bajo un mayor escrutinio en un contexto económico difícil.
«La confianza es la nueva moneda en un entorno cada vez más competitivo», afirma Rozita Dara, profesora adjunta de Informática en la Universidad de Guelph, en Ontario (Canadá). «La confianza aporta a las organizaciones una ventaja competitiva», afirma.
Es hora de establecer marcos éticos
Las deficiencias éticas se manifiestan de diversas formas. Esto se ha puesto de manifiesto en el supuesto uso indebido de datos por parte de TikTok, así como en las características adictivas de la aplicación, que, según temen los críticos, atrapan a los usuarios. Un estudio del Centro de Investigación para la Equidad en la Tecnología ( ) de la Universidad de Harvard, , ha puesto de manifiesto la existencia de sesgos raciales en la tecnología de reconocimiento facial desarrollada por IBM y Microsoft. Además, los observadores han detectado sesgos de género en , en Google Translate y en un sistema de selección de personal de Amazon basado en inteligencia artificial (que la empresa acabó por descartar).
«La confianza aporta a las organizaciones una ventaja competitiva.»Rozita Dara, profesora adjunta de Informática en la Universidad de Guelph
La confianza en una empresa depende de su compromiso con el uso ético de la tecnología. Y esto es aún más cierto en el caso de las empresas que, de hecho, crean esa tecnología.
«Hemos creado unas expectativas sobre cómo será esta tecnología y qué funciones desempeñará», afirma Yasemin J. Erden, profesora adjunta del Instituto de la Sociedad Digital de la Universidad de Twente, en Enschede (Países Bajos). Al promocionar la tecnología entre los usuarios, existe el riesgo de que el fabricante o el proveedor no comprenda plenamente sus implicaciones. «Todo ello repercute en la confianza que la gente tiene en la tecnología».
Estamos viendo cómo se desarrolla esta situación en la actualidad en lo que respecta a la tecnología cognitiva (IA). En marzo, más de 1,100 informáticos y otras figuras destacadas del sector tecnológico, entre ellos Elon Musk, firmaron una carta abierta publicada en () en la que pedían a todos los laboratorios que suspendieran el trabajo en cualquier modelo de entrenamiento más potente que el GPT-4, un modelo de lenguaje a gran escala de la empresa de investigación OpenAI que sustenta su polémico servicio ChatGPT.
A Erden le resulta incómodo hablar de los detalles de la última versión de GPT, ya que los creadores no han sido lo suficientemente transparentes. «No sabemos exactamente cómo consigue hacer lo que hace», advierte, haciéndose eco de las quejas de otros expertos en inteligencia artificial. «Entonces, ¿cómo podemos evaluar realmente las afirmaciones que se hacen al respecto?» (El hecho de que este chatbot, del que se sabe muy poco, fuera rápidamente aprovechado por los autores de amenazas cibernéticas para crear malware y otros contenidos peligrosos tampoco ayuda en absoluto.)
Las mejores prácticas de las grandes empresas tecnológicas
Es innegable que se avecinan normas y políticas que regularán el sector tecnológico. Sin embargo, hasta que entren en vigor, es fundamental que las empresas tecnológicas establezcan su propio conjunto de principios éticos, que puedan utilizarse tanto a nivel interno (para orientar el desarrollo de nuevas tecnologías fiables) como a nivel externo (para ganarse la confianza de los consumidores).
«[Mozilla es] realmente transparente: dejan claro cuáles son sus objetivos, cuáles son sus limitaciones, qué están haciendo y qué cambios están introduciendo.»Yasemin J. Erden, profesora adjunta del Instituto de la Sociedad Digital de la Universidad de Twente
El informe de Deloitte constituye una guía introductoria muy útil. Recomienda que los responsables de la empresa se reúnan con los equipos que realmente realizan el trabajo. Y para iniciar el debate, ofrece un marco de siete partes destinado a ayudar a evaluar la «salud ética» de los productos y servicios de una empresa tecnológica. Según el marco ético de confianza tecnológica de Deloitte, cualquier nueva tecnología que utilice una empresa tecnológica debería:
- Transparencia: Los usuarios deben comprender y poder examinar cómo contribuye la tecnología a la toma de decisiones.
- Seguridad y protección: Los usuarios deben estar protegidos frente a cualquier perjuicio y sus datos no deben utilizarse ni almacenarse más allá de la finalidad declarada y prevista, ni sin el consentimiento expreso del usuario.
- Privado: La tecnología debe respetar la privacidad de los usuarios .
- Responsable: La tecnología debe ser sostenible, respetuosa con las personas y estar al servicio del bien común y social.
- Robusta y fiable: La tecnología debe ofrecer resultados precisos y consistentes.
- Responsable: Debe quedar claro quién es el responsable del uso de la tecnología.
- Justo e imparcial: La tecnología debe diseñarse para tratar a todas las personas de forma justa.
Definir los principios es solo una parte del reto. La otra es ponerlas en práctica, señala Brian Green, director de ética tecnológica del Centro Markkula de Ética Aplicada de la Universidad de Santa Clara. «¿Cómo se consigue realmente que estas cosas sucedan en el contexto de una empresa cuando se están creando nuevos productos?», pregunta.
El Centro Markkula dispone de un conjunto de herramientas destinado a ingenieros y diseñadores tecnológicos para ayudarles a abordar este proceso. Próximamente publicará un manual sobre la aplicación de la ética tecnológica.
Dara señala la «ética desde el diseño» como una buena práctica fundamental. Incorpora la ética en el desarrollo de un producto o servicio desde el principio, teniendo en cuenta todo su ecosistema, incluidos los derechos e intereses de los usuarios. Es como añadir «Eth» al equipo de DevSecOps de . Los desarrolladores deben tener en cuenta los aspectos éticos al comprobar el funcionamiento de una herramienta, evaluando su fiabilidad y su aplicabilidad.
¿Quién lo está haciendo bien?
Tal y como señala el informe de Deloitte, la aplicación de principios éticos específicos podría variar en función de las distintas tecnologías. La inteligencia artificial tiene implicaciones, usuarios y características técnicas diferentes a las de, por ejemplo, la computación cuántica, la cadena de bloques o la realidad virtual.
Los especialistas en ética deberían analizar en profundidad los detalles concretos en función de los parámetros específicos de cada empresa, lo que plantea la siguiente pregunta: entre las empresas que están explorando este nuevo panorama ético, ¿hay alguna que lo esté haciendo correctamente?
Erden propone a Mozilla, el fabricante de software con sede en California que es en parte fundación y en parte empresa.
«Son realmente transparentes: dejan muy claro cuáles son sus objetivos, cuáles son sus limitaciones, qué están haciendo y qué están cambiando», afirma. «Creo que se les tiene mucho respeto por sus plataformas, como Firefox, y por sus ambiciones».
Mozilla también invierte mucho en la participación, señala Erden. Ha demostrado su compromiso con la tecnología ética en su manifiesto « » (), con iniciativas como su «Responsible Computing Challenge» ( ) (), su material educativo « » ( ) sobre cómo abordar las cuestiones éticas en el sector tecnológico, y ahora su «Responsible AI Challenge» () (). Esto es solo una pequeña muestra.
Green es coautor de un estudio de caso del Foro Económico Mundial titulado « » ( ), sobre la ética en IBM, y cita a «Big Blue» como referente en este ámbito. La empresa creó un comité de ética en materia de inteligencia artificial en 2018, publicó sus propios principios de confianza y transparencia, y los respaldó con cinco pilares de confianza, defendiendo valores como la privacidad y la equidad. Asimismo, ha donado herramientas a la comunidad de código abierto para contribuir a la «robustez ante ataques adversarios», es decir, a la defensa de la IA frente al uso indebido por parte de los atacantes.
Escribió un análisis similar en « » ( ) sobre Salesforce —que en 2018 creó su Oficina para el Uso Ético y Humano de la Tecnología— y otro sobre Microsoft.
Por supuesto, ninguna empresa es perfecta, y por eso muchos expertos en el complejo ámbito de la ética tratan de evitar dar su aprobación incondicional.
«Lo único que podemos hacer es evaluar las prácticas concretas, las tecnologías concretas y las medidas concretas», concluye Erden. Se trata de un proceso repetitivo que evalúa las acciones en función de sus méritos éticos y que, en teoría, debería animar a las empresas a seguir esforzándose por mejorar, producto tras producto y nuevo servicio tecnológico tras nuevo servicio tecnológico. «Eso no tiene fin».
