Ataques informáticos al censo electoral, datos sanitarios personales desprotegidos durante la pandemia de COVID-19, patrones insidiosos de discriminación en línea…la privacidad de los datos no podría ser más fundamental para afrontar lo que se perfila como un año aún más complicado.
Latanya Sweeney, titular de la cátedra Daniel Paul de Práctica del Gobierno y la Tecnología en Harvard, así como directora y fundadora del Laboratorio de Privacidad de Datos « » de Harvard (), tiene algunas reflexiones importantes que compartir sobre retos como estos. The data privacy pioneer is a keynote speaker at this month’s Women in Cybersecurity (WiCyS) conference (March 17-19) in Cleveland.
Sweeney investiga cómo la tecnología puede contribuir a proteger los registros de votantes y a resolver otros problemas sociales, políticos y de gobernanza. Ha sido una figura destacada en los ámbitos de la protección de datos y la equidad algorítmica.
«: Los diseñadores de tecnología son los nuevos responsables políticos.»
Su trabajo fue citado en la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA), que estableció la normativa sobre la privacidad médica a nivel federal. «Simplemente he tenido una extraña costumbre de anticiparme a los conflictos entre la tecnología y la sociedad, llevar a cabo un experimento que ponga de relieve el problema y, a continuación, conseguir que mil mentes brillantes me ayuden a intentar resolverlo», afirmó Sweeney en una entrevista con Endpoint.
Anteriormente, el señor Sweeney fue director de tecnología de la Comisión Federal de Comercio de Estados Unidos y fue galardonado con el prestigioso Premio Louis D. Brandeis a la Privacidad. Fue la primera mujer negra en obtener un doctorado en informática por el Instituto Tecnológico de Massachusetts, en 2001. Está previsto que el Sr. Sweeney pronuncie un discurso en la conferencia WiCyS 2022 sobre el tema « March 18».
(La siguiente entrevista se ha resumido y editado para mayor claridad.)
¿Podría resumirnos los puntos más destacados de su discurso inaugural, titulado «Cómo la tecnología dará forma a nuestro futuro cívico», pronunciado en la conferencia «Mujeres en la Ciberseguridad»?
Los diseñadores tecnológicos son los nuevos responsables políticos. No los elegimos; no votamos por ellos. Sin embargo, las decisiones arbitrarias que toman y la tecnología que crean determinan la forma en que vivimos nuestras vidas. Nuestra capacidad para hacer cumplir cualquier valor, norma o ley concreta depende en gran medida de lo que dicha tecnología nos permita hacer.
¿Cómo empezó a interesarse por la protección de datos?
En realidad, [al principio] no lo estaba. Así pues, era el año 1996. Toda mi vida he querido ser informático y he querido construir una «máquina pensante», un ordenador capaz de aprender y pensar como los seres humanos. Mi carrera como estudiante de doctorado en informática en el MIT iba por buen camino.
«Estaba paseando por el laboratorio y oí a un especialista en ética decir: “Los ordenadores son malvados”.»
Cuando era estudiante de posgrado, un día pasaba por el laboratorio y oí a un especialista en ética decir: «Los ordenadores son malvados». El ejemplo que puso fueron los datos sanitarios que se habían recopilado sobre los empleados públicos, sus familias y los jubilados, y que se habían facilitado a investigadores y empresas. Ella dijo: «¿No se dan cuenta de que alguien podría utilizar esos datos para chantajear a los jueces o para comprometer a las fuerzas del orden?». «¿Es anónimo?»
[Los datos sanitarios] incluían el mes, el día y el año de nacimiento, el sexo y el código postal de cinco dígitos. Así que me acerqué al Ayuntamiento y compré el censo electoral de Cambridge, Massachusetts, por 20 dólares. La razón por la que acudí al Ayuntamiento de Cambridge para adquirir el censo electoral fue doble. En primer lugar, William Weld era el gobernador de Massachusetts en aquel momento y había sufrido un desmayo. La información sobre su desmayo figuraría en esos datos sanitarios. Y la segunda razón fue que el censo electoral incluía la fecha de nacimiento, el sexo y el código postal.
Resulta que había seis personas en Cambridge que tenían su misma fecha de nacimiento. Solo
tres de ellos eran hombres, y él era el único en su código postal.
Eso significaba que la fecha de nacimiento, el sexo y el código postal eran únicos
para William Weld en el fichero de votantes y serían únicos para él
en los datos sanitarios, y que yo podía vincular esos [conjuntos de datos] y asociar su
nombre a su historial médico de forma inequívoca. Y fue una experiencia realmente impresionante.
[Lea también: El teletrabajo aumenta la preocupación por la privacidad de los datos]
En muy poco tiempo, las leyes de todo el mundo cambiaron a raíz de ese experimento. Aquí, en Estados Unidos, se trataría de la norma de privacidad de la HIPAA. Fue, sin duda, un momento extraordinario.
Se encontró con algunos obstáculos al intentar publicar los resultados de ese experimento, ¿verdad?
Eso es totalmente cierto. Durante años se mantuvo un intenso debate sobre la siguiente cuestión: ¿Se trata de informática? Hay quien diría que no se trata realmente de seguridad informática, ya que, en lo que respecta a la privacidad de —de la que estamos hablando en—, nadie ha accedido de forma no autorizada para obtener [los datos]. Son los datos que facilito de forma gratuita.
«Fue una experiencia realmente impresionante. En muy poco tiempo, las leyes de todo el mundo cambiaron.»
En aquella época, la seguridad informática se centraba básicamente en la seguridad perimetral, es decir, en garantizar que nadie accediera indebidamente a la información o en que se utilizara el cifrado. Ninguna de esas formas de pensar, con ese tipo de herramientas, iba a resolver este problema. Esto hizo que resultara muy, muy difícil publicarlo, ya que no era precisamente el tipo de problema al que la informática se había acostumbrado a resolver.
Recientemente ha creado en Harvard el Laboratorio de Tecnología de Interés Público « » ( Public Interest Tech Lab) , que ayuda a los investigadores a «replantearse cómo pueden utilizar la tecnología los gobiernos y la sociedad civil en beneficio del bien común». Pero no es solo un lugar para debatir sobre teoría. Están desarrollando aplicaciones y plataformas reales.
En muchos sentidos, el Laboratorio de Tecnología para el Interés Público —al que simplemente llamamos «Tech Lab»— es una prolongación natural del trabajo que comencé cuando era estudiante de posgrado. La primera oleada de estos conflictos entre la tecnología y la sociedad giró en torno a la privacidad de los datos. Y entonces surge la cuestión de la equidad algorítmica y todos estos problemas relacionados con las elecciones del 2016 . Y, en muchos sentidos, todas estas corrientes siguen presentes entre nosotros. La verdad es que aún no los hemos resuelto por completo.
¿Qué nuevas tecnologías podríamos ofrecer que contribuyeran a resolver estos problemas? Y, en ocasiones, la solución pasa por un cambio legislativo o normativo, y eso es precisamente lo que hemos hecho. Pero también hemos desarrollado nuevas tecnologías.
[Lea también: A la luz de las prácticas engañosas y la recopilación de datos personales]
Pero seguimos necesitando cada vez más expertos en tecnología: en gobierno, en el Congreso. Necesitamos profesionales de la tecnología que piensen de esta manera en aras del interés público, incluso aunque trabajen en las grandes empresas tecnológicas. Así pues, la pregunta es: ¿Cómo se crea, , ese proceso? Esa es la razón de ser del Tech Lab.
¿Qué está aprendiendo gracias a este trabajo?
En 2016, entre otras cosas, fuimos los primeros en señalar las vulnerabilidades de las páginas web de inscripción en el censo electoral. Y, en su mayor parte, esas vulnerabilidades siguen estando presentes. No existe una solución rápida.
El problema es que se podría suplantar la identidad de un votante y, a continuación, modificar su inscripción en el censo electoral de tal forma que su voto no se contabiliz
e o no se contabilice en su totalidad. No hay nada que el votante pueda saber ni
pueda hacer al respecto, y esto se podría llevar a cabo a gran escala, de modo que se podrían restar uno o dos puntos porcentuales en todo el estado sin que nadie se diera cuenta realmente.
Se nos ocurrió esta idea de VoteFlare. La idea consiste en realizar un seguimiento en tiempo real de la inscripción de los ciudadanos en el censo electoral. Es algo parecido al servicio de supervisión de crédito: si surge algún problema con su crédito, la entidad crediticia se lo comunicará. Pues bien, hacemos lo mismo con las inscripciones en el censo electoral y con los votos por correo. Si surge algún problema, le enviaremos un mensaje de texto, un correo electrónico o un mensaje de voz, según lo que haya seleccionado, para informarle de que ha ocurrido un error, de modo que tenga la oportunidad de corregirlo y su voto se tenga plenamente en cuenta.
Pudimos ponerlo en marcha a tiempo para la segunda vuelta de las elecciones en Georgia. De este modo, pudimos brindar un gran alivio a los votantes de Georgia, independientemente de su orientación política. Y este año estamos intentando ampliarlo a 48 estados y al Distrito de Columbia. Texas ha celebrado sus elecciones primarias y el sistema ya está operativo en ese estado.
Ha mencionado la equidad algorítmica. ¿Qué es lo que más le llama la atención en lo que respecta a los prejuicios y los estereotipos?
Cuando empecé a dar clases en Harvard, me estaba entrevistando un periodista y necesitaba enseñarle un artículo concreto [mío]. Así que escribí mi nombre en la barra de búsqueda de Google, y él señaló un anuncio que aparecía a la derecha y dijo: «Bueno, olvídese de ese artículo». «Cuénteme aquella vez que le detuvieron».
«El anuncio decía: «Latanya Sweeney detenida», seguido de un signo de interrogación. Y le dije: «Bueno, a mí nunca me han detenido».»
El anuncio decía: «Latanya Sweeney detenida», con un signo de interrogación, y «Infórmese sobre su detención y mucho más». Y le dije: «Bueno, nunca me han detenido».
El anuncio se presentaba en dos versiones: o bien daba a entender que usted tenía antecedentes penales, o bien era neutro y decía: «Obtenga más información».
¿Por qué ocurría esto? ¿Qué nombres aparecían en los anuncios de detenciones y cuáles no? Cuando escribí «Latanya» en el buscador de imágenes de Google, aparecieron un montón de rostros de personas negras, y cuando escribí «Tanya» en el buscador de imágenes, aparecieron un montón de rostros de personas blancas.
[Lea también: Reducir la brecha de género en la ciberseguridad nos proporcionará mayor seguridad]
Eso me llevó a realizar un estudio. Efectivamente, si su nombre de pila se pone con más frecuencia a los bebés de raza negra que a los de raza blanca, le aparecerán estos anuncios que insinúan una detención. Recuerde que el anuncio se publica a nombre de la persona tal y como figura en
. No se trata solo del nombre de pila. No se trata de ninguna tal Latanya. Es Latanya Sweeney.
Era la primera vez que un algoritmo —en este caso, Google AdSense— era objeto de una investigación por parte del Departamento de Justicia por una presunta infracción de la Ley de Derechos Civiles.
¿Qué les diría a las mujeres que están pensando en dedicarse a su campo?
Es sumamente importante, ya que cada [mujer] verá cosas diferentes en . Si reflexiona sobre esa historia relacionada con la discriminación y la publicidad en línea, se dará cuenta de que nunca habría ocurrido si no hubiera tenido un nombre que se pone con más frecuencia a los bebés negros que a los blancos.
No debería haber nada prohibido para las mujeres. Necesitamos que en un ámbito trabajen las personas más competentes y brillantes, no aquellas que simplemente cumplen con uno u otro requisito, sino aquellas que realmente son las más competentes y brillantes y que nos ayudan a comprender mejor cómo competir y obtener buenos resultados en un mundo globalizado.
