Imagine que está ampliando su plantilla: ha publicado las ofertas de empleo y ha comenzado a seleccionar a los candidatos mediante inteligencia artificial, pero ha observado que existe una falta de diversidad entre los candidatos. ¿Se pregunta por qué? Como le puede confirmar el director de IA de « », : es muy probable que la IA tenga sesgos.
Desde hace años han ido surgiendo ejemplos de inteligencia artificial sesgada, como la herramienta de selección de personal que Amazon desarrolló y posteriormente descartó en 2018 tras descubrirse que discriminaba a las mujeres. La herramienta de selección de currículos de otra empresa mostraba una predilección por el nombre «Jared» y por los jugadores de lacrosse de instituto, dos factores aleatorios que, según sus análisis, resultaban indicativos del rendimiento laboral. En se recoge otro caso reciente de sesgo en la IA, en el que unos investigadores en informática solicitaron a ChatGPT que redactara cartas de recomendación para empleados hipotéticos; el sistema describió a los candidatos masculinos como «respetuosos», «de buena reputación» y «auténticos», y a las mujeres como «impresionantes», «cálidas» y «emocionales».
En un momento en el que el 70 % de las empresas afirman utilizar herramientas automatizadas y basadas en la inteligencia artificial para sus procesos de selección de personal, resulta fundamental que los equipos de inteligencia artificial sean capaces de identificar y corregir los sesgos —no solo los de género, sino de todo tipo— en sus herramientas y algoritmos de inteligencia artificial, con el fin de proteger no solo la reputación de la empresa, sino también sus resultados económicos. La diversidad en los equipos humanos desempeña un papel fundamental en este sentido, y cada vez son más las empresas que reconocen el valor de las mujeres en puestos de liderazgo en el ámbito de la inteligencia artificial.
Una encuesta reciente de IBM « » ( ) reveló que el 33 % de las empresas cuenta con una mujer a cargo de la toma de decisiones en materia de estrategia de inteligencia artificial. No obstante, más de la mitad (56 %) de los ejecutivos y directivos de nivel medio señalan que «no hay suficientes mujeres liderando el debate sobre la IA generativa», y el 73 % de los líderes empresariales señalan que contar con mujeres en puestos de liderazgo en el ámbito de la IA es fundamental para reducir los sesgos de género.
«Tenemos que reducir el déficit y [garantizar que] haya más de una mujer cualificada en la mesa», señala Janet George, vicepresidenta corporativa del grupo de centros de datos e inteligencia artificial de Intel Corporation. «A menudo solo hay uno».
Este ha sido un año difícil para las mujeres en el ámbito de la inteligencia artificial. En marzo, la UNESCO publicó un estudio sobre la IA generativa titulado « » ( ), en el que se ponen de manifiesto los sesgos de género y los estereotipos raciales presentes en los modelos de lenguaje a gran escala (LLM). En abril, la organización sin ánimo de lucro Women Who Code, fundada hace 13 años , cerró. En mayo, se sometió a escrutinio la cuestión de las normativas sobre IA en materia de protección de la identidad, cuando Scarlett Johansson denunció que OpenAI había utilizado su voz sin su consentimiento para su ChatGPT «Sky». A pesar de estos retos, se vislumbran nuevas oportunidades para las empresas de inteligencia artificial dirigidas por mujeres. Google y The Female Foundry ofrecen acceso a la incubadora de IA « : Visionaries» ( ) a una selección de empresas fundadas por mujeres.
Dado que el auge de la IA está generando una necesidad crítica de diversidad de ideas y perspectivas en los puestos directivos, Focal Point se ha puesto en contacto con tres directoras de IA para conocer su opinión sobre los obstáculos y las perspectivas que tienen por delante. Debatieron sobre la importancia de mitigar los sesgos, incorporar más puntos de vista al debate y mejorar los resultados económicos de la empresa, aspectos que —tal y como destacaron— están todos relacionados entre sí.
La diversidad al servicio de los resultados económicos
Algunos sectores y empresas han experimentado una reacción contraria a las iniciativas en materia de diversidad, pero los argumentos económicos son claros: según el informe « 2023 » de McKinsey, , titulado «: Diversity Matters Even More» (: la diversidad importa aún más),, las empresas «que se sitúan en el cuartil superior de representación étnica» tienen un 39 % más de probabilidades de obtener mejores resultados.
«. Debemos [asegurarnos de que] haya más de una mujer cualificada sentada a la mesa». A menudo solo hay uno.»Janet George, vicepresidenta corporativa del Grupo de Centros de Datos e Inteligencia Artificial de Intel Corporation
Katia Walsh considera que esto se aplica especialmente al liderazgo. «El mundo tiene que cambiar… las oportunidades de liderazgo para los colectivos infrarrepresentados tienen que cambiar», señala Walsh, directora digital de la Harvard Business School y antigua directora de inteligencia artificial en Levi Strauss & Co. y en el Grupo Vodafone. Esa tarea «monumental», señala, exige que los líderes de todos los sectores trabajen para lograr una mayor diversidad. «Disponemos de los datos, pero debemos actuar en consecuencia», afirma. «Cuanto más diverso sea el equipo directivo, mejores serán las decisiones empresariales, que reflejarán mejor la realidad».
En Michelin, el importante fabricante francés de neumáticos, Ambica Rajagopal, directora de datos e inteligencia artificial del grupo, señala que la inteligencia colectiva es un factor clave para lograr un equipo de alto rendimiento, y destaca que la equidad y la diversidad en todas sus facetas ( , origen, tipo de personalidad, género y otros aspectos) revisten la misma importancia. Rajagopal se encarga de crear equipos especializados en tecnología de inteligencia artificial y de identificar los casos de uso de la inteligencia artificial que aporten valor a la empresa. Además de los neumáticos, Michelin está desarrollando tecnología basada en la inteligencia artificial para una amplia variedad de «soluciones de movilidad», desde microchips capaces de predecir el desgaste de los neumáticos hasta herramientas de predicción de gustos culturales, con el fin de que sus mundialmente famosas guías de hoteles y restaurantes « » de Michelin sean más personalizadas y adaptables a las necesidades de cada usuario.
«Cuando se piensa en crear soluciones centradas en el cliente que realmente muestren empatía hacia la clientela, contar con un equipo que refleje la diversidad de la sociedad en general también contribuye a lograrlo», afirma Rajagopal.
Dar voz a los colectivos menos representados
Los líderes empresariales con visión de futuro pueden adoptar una serie de medidas para potenciar las voces menos representadas, lo que puede contribuir a garantizar una implantación de la IA menos sesgada. Una opción controvertida que, según muchos, dará sus frutos: la adopción de normativas que fomenten la diversidad en los puestos de liderazgo de su empresa. Por ejemplo, la norma de cotización del Nasdaq exige que las empresas cuenten con un número mínimo de consejeros que representen la diversidad. La sentencia no ha sido bien acogida, y los expertos consideran que la ley será anulada por un tribunal de apelación que, , escuchó los argumentos orales en mayo.
«: Disponemos de los datos, pero debemos actuar en consecuencia». Cuanto más diverso sea el equipo directivo, mejores serán las decisiones empresariales.»Katia Walsh, directora digital de la Harvard Business School y antigua directora de inteligencia artificial de Levi Strauss & Co.
No obstante, expertos como George, de Intel, consideran que las empresas deberían empezar a aplicar esta norma, independientemente de si sigue siendo ley o no. «Tenemos que defender las leyes», afirma. «Necesitamos hitos que supongan un avance significativo en la composición de la alta dirección». «Cuando existe una ley, la gente la cumple». George recomienda que cada equipo directivo analice su propia composición y se pregunte: ¿Es nuestra composición del equipo directivo 50-50 [hombres-mujeres]? «La equidad comienza en lo más alto de la cadena de mando», afirma George.
Otra forma de incorporar más voces al proceso es revisar los obstáculos que puedan aparecer en las descripciones de los puestos de trabajo para asegurarse de que no se está dificultando el acceso a los candidatos. A la hora de formar su equipo, la Sra. Walsh eliminó el requisito de formación académica.
«Evalúe realmente [las descripciones de los puestos de trabajo] con objetividad», aconseja Walsh. «En algunos casos, puede utilizar la IA generativa en las descripciones de los puestos de trabajo y señalar determinados requisitos que suponen un obstáculo».
También puede resultar de ayuda contar con programas destinados a fomentar la incorporación al sector de personas de grupos infrarrepresentados. La antigua empresa de Walsh puso en marcha un programa de reciclaje profesional, un curso intensivo de ocho semanas sobre aprendizaje automático . El programa contaba con un proceso de selección destinado a evaluar las habilidades de resolución de problemas, la capacidad analítica y la perseverancia de los candidatos —cualidades necesarias para participar en el programa—, pero no exigía conocimientos previos de programación.
«Se trata de brindar a las personas la oportunidad [de aprender] y así se obtienen resultados empresariales», afirma Walsh. «Algunos cambiaron de trabajo, pero la mayoría de las personas a las que formamos volvieron a sus puestos anteriores y, en lugar de utilizar Excel, pudieron automatizar sus tareas mediante código en Python. «Ahora cuentan con las competencias técnicas necesarias, han actualizado sus funciones y han logrado mejores resultados empresariales».
¿Le gustaría convertirse en director de inteligencia artificial? Lo primero es buscar un mentor
Mientras los responsables de las empresas analizan estas estrategias sistémicas para mejorar la diversidad en el ámbito de la IA, quienes deseen progresar en este sector también pueden aportar su granito de arena. La tutoría entre compañeros puede resultar útil para consolidar su nicho en el ámbito de la IA. Rajagopal le anima a establecer contacto con profesionales del sector que compartan sus intereses específicos.
«. Comprenda los aspectos de la IA que realmente le importan y busque en la comunidad, en conferencias y en LinkedIn, a aquellas personas que compartan sus mismas inquietudes.»Ambica Rajagopal, directora de datos e inteligencia artificial del grupo Michelin
«Comprenda los aspectos de la IA que realmente le importan y busque, en la comunidad, en las conferencias y en LinkedIn, a aquellas personas que compartan sus mismas inquietudes y su forma de pensar», afirma Rajagopal. «En mi caso, fue el impacto de la IA en las personas, tanto desde el punto de vista ético como de la gestión del cambio, así como los aspectos técnicos más profundos, y las personas con gran talento técnico en el ámbito de la IA».
Asimismo, destaca la prevalencia del efecto «leaky pipeline», que afecta a las mujeres de en el sector tecnológico. «A mitad de la carrera profesional, observamos que el porcentaje de mujeres va disminuyendo… En lo que respecta a la incorporación de mujeres al ámbito de la inteligencia artificial, se trata de crear modelos a seguir y de compartir nuestras experiencias y nuestro recorrido profesional».
Cómo mitigan los sesgos los directores de IA
A la hora de implementar la inteligencia artificial, contar con diversidad de datos, diversidad de equipos y diversidad de herramientas resulta fundamental para mitigar los sesgos.
Estar atentos a los posibles sesgos en los datos existentes, por ejemplo, debería ser responsabilidad de todos, desde la alta dirección —que aprueba la implementación de la IA y es la responsable última de la misma— hasta los empleados de los departamentos que trabajan con estos algoritmos. Cuando todos se sienten parte del equipo de ciberseguridad, hay más posibilidades de detectar sesgos. No hacerlo puede salirle caro. El pasado mes de agosto, la EEOC llegó a un acuerdo en su primera demanda por discriminación relacionada con la IA , en la que un consorcio de clases particulares aceptó pagar 365,000 dólares después de que su herramienta de selección de personal basada en IA rechazara automáticamente a las candidatas que superaban los 55 y a los candidatos que superaban los 60.
La elección de las herramientas adecuadas también puede contribuir a reducir los sesgos. Walsh recomienda utilizar herramientas que incorporen datos representativos. «Tengo preferencia por las herramientas de código abierto porque, por definición, en ellas colabora gente de todo el mundo, con diferentes procedencias, formaciones y lugares de origen, y eso ofrece mayores oportunidades [de diversidad]», afirma. «No se trata de eliminar [las opiniones]; se trata de maximizar la posibilidad de que haya menos sesgos».
Rajagopal destaca la importancia de establecer directrices sobre inteligencia artificial para toda la empresa y valora las herramientas que forman a los científicos de datos sobre posibles sesgos. Su equipo está analizando actualmente las opciones que ofrecen empresas como Holistic AI y Fiddler AI, las cuales proponen soluciones tecnológicas que permiten supervisar el aprendizaje automático y los modelos de lenguaje a gran escala (LLM), así como aplicar medidas de protección en materia de inteligencia artificial. Por ejemplo, Fiddler permite a los usuarios evaluar la desigualdad interseccional mediante el análisis de las métricas del conjunto de datos « » ().
El objetivo es reflejar la diversidad de experiencias y perspectivas humanas, siendo la IA «un espejo que sostenemos frente a la vida», afirma Walsh. «El espejo refleja lo que hay». «Hasta que cambiemos lo que hay, el espejo seguirá reflejando un mundo muy imperfecto».
PARA SABER MÁS
Si desea ampliar su red de contactos y sus conocimientos, le recomendamos que consulte los siguientes recursos:
- Cumbre de Directores de Inteligencia Artificial – La segunda cumbre anual de Directores de Inteligencia Artificial (CAIO) del CDO Club se celebrará October 2 (un día después de su Cumbre de Directores de Datos (CDAO) ) en Washington, D.C. Entre los ponentes se encuentran el CAIO adjunto del Departamento del Tesoro de EE. UU., Brian Peretti; la asesora sénior de talento digital de la Oficina del Director de Digitalización e Inteligencia Artificial del Departamento de Defensa, Angela Cough; y los directores de inteligencia artificial de Avanade, Fox Rothschild y el Departamento de Vivienda y Desarrollo Urbano de EE. UU., entre otros.
- Mapa de talento de los directores de IA (CAIO) – El primer informe de este tipo elaborado por el CDO Club, que abarca datos demográficos clave de los directores de IA, su remuneración, su ubicación geográfica, su trayectoria profesional, sus estructuras jerárquicas y las vacantes de CAIO disponibles. Su lanzamiento está previsto para mediados de julio.
