Trucos de registro de votantes, datos de salud personales inseguros durante la pandemia de COVID-19, patrones insidiosos de discriminación en línea; la privacidad de los datos no podría ser más crítica para navegar por lo que se está configurando para ser un año aún más difícil.
Latanya Sweeney, profesora de Daniel Paul de la Práctica de Gobierno y Tecnología de Harvard y directora y fundadora del Laboratorio de Privacidad de Datos de Harvard, tiene algunas perspectivas importantes para compartir sobre desafíos como estos. El pionero en privacidad de datos es orador principal en la conferencia Mujeres en ciberseguridad (WiCyS) de este mes ( 17-19 de marzo) en Cleveland.
Sweeney estudia cómo las tecnologías pueden ayudar a proteger los expedientes de registro de votantes y resolver otros problemas sociales, políticos y de gobernanza. Ha sido líder en los campos de privacidad de datos e imparcialidad algorítmica.
“Los diseñadores tecnológicos son los nuevos responsables de formular políticas”.
Su trabajo fue citado en la Ley de Portabilidad y Responsabilidad de los Seguros Médicos (HIPAA), que establece reglamentaciones de privacidad médica a nivel federal. “Acabo de tener una extraña historia de ser temprana en un choque tecnológico y social, hacer un experimento que destaque el problema y luego conseguir mil grandes mentes para ayudar a intentar resolverlo”, dijo Sweeney en una entrevista con Endpoint.
Anteriormente, Sweeney fue director de tecnología de la Comisión Federal de Comercio de los EE. UU. y recibió el prestigioso premio Louis D. Brandeis Privacy Award. Fue la primera mujer negra en obtener un doctorado en Ciencias Informáticas del Instituto de Tecnología de Massachusetts, en 2001. Sweeney tiene programado presentar un discurso en la conferencia WiCyS 2022 el March 18.
(La siguiente entrevista se ha condensado y editado para mayor claridad).
¿Podría darnos puntos destacados de su discurso de apertura, “Cómo la tecnología dará forma a nuestro futuro cívico”, en la conferencia Mujeres en ciberseguridad?
Los diseñadores tecnológicos son los nuevos responsables de formular políticas. No los elegimos; no votamos por ellos. Pero las decisiones arbitrarias que toman y la tecnología que crean dictan cómo vivimos nuestras vidas. Nuestra capacidad para hacer cumplir cualquier valor, estándar o ley en particular depende mucho de lo que esa tecnología nos permite hacer.
¿Cómo se interesó en la privacidad de los datos?
En realidad, no estaba [al principio]. El año era 1996. Toda mi vida quería ser científica informática y quería construir una “máquina de pensamiento”, una computadora que pudiera aprender y pensar como seres humanos. Estaba bien encaminado como estudiante de doctorado en ciencias informáticas en MIT.
“Estaba caminando por el laboratorio y escuché a un especialista en ética decir: ‘Las computadoras son malas’”.
Mientras era estudiante de posgrado, un día caminaba por el laboratorio y escuché a un especialista en ética decir: “Las computadoras son malas”. El ejemplo que dio fueron los datos de salud que se habían recopilado sobre los empleados estatales, sus familias y jubilados, y que se habían proporcionado a investigadores y empresas. Dijo: “¿No se dan cuenta de que las personas podrían usar esos datos para chantajear a los jueces o para comprometer a las fuerzas de seguridad? ¿Es anónimo?”
[Los datos de salud] tenían mes, día y año de nacimiento, sexo y código postal de cinco dígitos. Así que fui al Ayuntamiento y compré la lista de votantes de Cambridge, Massachusetts, por 20 dólares. El motivo por el que fui al Ayuntamiento de Cambridge para comprar la lista de votantes era doble. Uno, William Weld era el gobernador de Massachusetts en ese momento y se había colapsado. La información sobre su colapso estaría en esos datos de salud. Y el segundo motivo fue porque la lista de votantes compartió la fecha de nacimiento, el sexo y el código postal.
Resulta que seis personas en Cambridge tenían su fecha de nacimiento. Solo
tres de ellos eran hombres y él era el único en su código postal.
Eso significaba que la fecha de nacimiento, el sexo y el código postal eran únicos
para William Weld en el archivo del votante y serían únicos para él
en los datos de salud, y que podía vincular esos [conjuntos de datos] y poner su
nombre en su registro de salud de manera única. Y esa fue una experiencia bastante atractiva.
[Leer también: El trabajo remoto aumenta las inquietudes de privacidad de los datos]
Las leyes de todo el mundo cambiaron muy rápidamente debido a ese experimento. Aquí, en los Estados Unidos, esa sería la regla de privacidad de la HIPAA. Fue un momento realmente increíble.
Encontraste algunos obstáculos al intentar publicar los resultados de ese experimento, ¿verdad?
Eso es absolutamente cierto. Hubo un enorme debate durante años sobre: ¿Esta es una ciencia informática? Algunas personas diría que no es realmente la seguridad informática porque con la privacidad de la que estamos hablando, nadie interrumpió para obtener [los datos]. Son los datos que entrego libremente.
“Esa fue una experiencia bastante atractiva. Las leyes de todo el mundo cambiaron muy rápidamente”.
La seguridad informática en ese momento se centraba en la seguridad perimetral, en asegurarse de que las personas no entraran en la información o en que utilizaran cifrado. Ninguna de esas formas de pensar, con ese tipo de caja de herramientas, iba a resolver este problema. Hizo que fuera muy, muy difícil publicar porque simplemente no era el tipo de problema que la informática se había acostumbrado a resolver.
Recientemente, estableció el laboratorio técnico de interés público en Harvard, que ayuda a los alumnos a “reimaginar cómo los gobiernos y la sociedad civil pueden usar la tecnología para el bien público”. Pero no es solo un lugar para analizar la teoría. Está produciendo aplicaciones y plataformas reales.
En muchos sentidos, el Laboratorio de Tecnología de Interés Público, al que simplemente llamamos Laboratorio de Tecnología, es una extensión natural del trabajo que comenzó cuando era estudiante de posgrado. La primera ola de estos choques tecnológicos y sociales se produjo en torno a la privacidad de los datos. Y luego viene la imparcialidad algorítmica y todos estos problemas con la elección 2016 . Y de muchas maneras, todas estas olas siguen estando con nosotros. Realmente no los hemos resuelto en su totalidad.
¿Qué nuevas tecnologías podríamos ofrecer que podrían comenzar a resolver estos problemas? Y a veces la solución es un cambio legal o normativo, por lo que lo hemos hecho. Pero también produjimos nuevas tecnologías.
[Leer también: Luz brillante sobre patrones oscuros y recopilación de datos personales]
Pero aún necesitamos cada vez más tecnólogos, en el gobierno, en el Congreso. Necesitamos tecnólogos que piensen de esta manera en el interés público, incluso trabajando en las grandes empresas tecnológicas. Entonces, la pregunta es: ¿Cómo crea ese proceso? Ese es el motivo del Laboratorio de tecnología.
¿Qué está aprendiendo a través de este trabajo?
En 2016, entre otras cosas, fuimos los primeros en señalar la vulnerabilidad en los sitios web de registro de votantes. Y, en su mayor parte, esas vulnerabilidades siguen estando con nosotros. No hay una solución rápida.
El problema es que podría hacerse pasar por un votante y luego cambiar su registro de votantes de una manera que podría hacer que su voto no
cuente o no cuente completamente. No hay nada que el votante sepa o
pueda hacer, y usted podría hacerlo a escala, para que pueda reducir uno o dos puntos porcentuales en todo el estado sin que nadie realmente lo note.
Se nos ocurrió esta idea de VoteFlare. La idea es monitorear el registro de votantes de la gente en tiempo real. Es como el monitoreo de crédito, donde si algo sale mal con su crédito, la compañía de crédito se lo hará saber. Bueno, hacemos lo mismo con los registros de votantes y las boletas electorales por correo. Si algo sale mal, le enviaremos un mensaje de texto, un correo electrónico o un mensaje de voz, según lo que seleccione, para hacerle saber que algo está mal, para que tenga la oportunidad de corregirlo y para que su voto cuente por completo.
Pudimos defender la elección de la escorrentía de Georgia. Así que pudimos brindar mucho alivio en todo el espectro político a los votantes de Georgia. Y este año estamos tratando de implementarlo en 48 estados y el Distrito de Columbia. Texas tenía su principal y ya está en funcionamiento en Texas.
Mencionó la imparcialidad algorítmica. ¿Qué se destaca para usted en términos de sesgo y estereotipos?
Cuando me convertí por primera vez en profesor en Harvard, un periodista me entrevistaba y necesitaba mostrarle un documento en particular [de mí]. Así que escribí mi nombre en la barra de búsqueda de Google y señala un anuncio que apareció a la derecha y dice: “Bueno, olvídese de ese artículo. Cuénteme sobre la hora en que fue arrestado”.
“El anuncio decía: ‘Latanya Sweeney arrestada’ con un signo de interrogación. Y le dije: ‘Bueno, nunca me han arrestado’”.
El anuncio decía: “Latanya Sweeney arrestada” con un signo de interrogación y “Conozca su arresto y más”. Y le dije: “Bueno, nunca me han arrestado”.
El anuncio vino en dos variedades: ya sea implicaba que tenía un registro de arresto o era neutral y decía: “Encontrar más información”.
¿Por qué estaba sucediendo esto? ¿Qué nombres se le ocurrieron a los anuncios de arresto y cuáles no? Cuando escribí “Latanya” en la búsqueda de imágenes de Google, aparece en todas estas caras negras y cuando escribí “Tanya” en la búsqueda de imágenes, aparece en todas estas caras blancas.
[Leer también: Cerrar la brecha de género en la ciberseguridad nos mantendrá más seguros]
Eso me llevó a hacer un estudio. Seguro, si su nombre se da con más frecuencia a los bebés negros que a los blancos, recibió estos anuncios que implican un arresto. Recuerde que el anuncio se coloca en el nombre
completo de la persona. No es solo un nombre. No es parte de Latanya. Es Latanya Sweeney.
Fue la primera vez que un algoritmo, en este caso Google AdSense, calificó para ser investigado por el Departamento de Justicia como una violación de la Ley de Derechos Civiles.
¿Qué les dice a las mujeres que están considerando ingresar a su campo?
Es increíblemente importante, porque diferentes [mujeres] verán diferentes cosas. Si piensa en esa historia sobre discriminación y anuncios en línea, nunca habría ocurrido si no tuviera un nombre que se diera con más frecuencia a los bebés negros que a los blancos.
Nada debe estar fuera de los límites para las mujeres. Necesitamos el mejor y más brillante trabajo en un área, no la que marca una casilla u otra, sino la que realmente es la mejor y más brillante y nos ayuda a entender mejor cómo competir y desempeñarnos en un mundo global.
