Quién es Joy Buolamwini
Joy Buolamwini es informática, escritora y artista, fundadora y presidenta de Algorithmic Justice League. Su trabajo combina investigación sobre sistemas de inteligencia artificial, comunicación pública y defensa de una tecnología más equitativa y responsable. [1]
Nació en Canadá en una familia de origen africano y creció en un entorno internacional que incluyó Ghana, España y Estados Unidos. Georgia Tech documenta su etapa escolar en Memphis y su interés temprano por crear aplicaciones con utilidad social. [6]
Formación y primeros proyectos
Se graduó en informática en Georgia Tech en 2012. Completó un máster en Educación, especializado en aprendizaje y tecnología, en Oxford en 2014, y otro en Media Arts and Sciences en el MIT en 2017. [7]
Durante una beca Fulbright en Lusaka, Zambia, desarrolló una iniciativa de aprendizaje informático. Después creó Code4Rights para que jóvenes colaborasen con organizaciones locales y desarrollasen tecnología útil para sus comunidades. [8]
En su texto InCoding de 2016 defendió que quienes programan incorporan decisiones y perspectivas a los sistemas. Presentó proyectos como Code4Rights y SlayPlay, que exploraba música mediante movimiento, como formas de acercar la creación tecnológica a participantes diversos. [25]
Obtuvo el doctorado en el MIT en 2022, bajo la dirección de Ethan Zuckerman. Su tesis, Facing the Coded Gaze with Evocative Audits and Algorithmic Audits, estudió cómo combinar pruebas técnicas y recursos narrativos para hacer visibles daños que una tabla de resultados no comunica por sí sola. [9]
Del espejo interactivo a la investigación del sesgo
En el proyecto Aspire Mirror intentó superponer imágenes sobre su rostro. El programa detectaba mejor las caras de compañeros de piel clara; para completar su trabajo utilizó una máscara blanca. Relató que un problema similar reapareció en UpBeat Walls, una instalación que convertía movimientos faciales en pintura digital. [11]
Su charla How I’m Fighting Bias in Algorithms, presentada en TEDxBeaconStreet en noviembre de 2016, llevó esa experiencia a un público amplio. Introdujo la expresión coded gaze para explicar que los sistemas automatizados pueden incorporar exclusiones presentes en los datos y en las decisiones de sus creadores. [10]
Fundó Algorithmic Justice League en otoño de 2016. [7]
Gender Shades y la evaluación por subgrupos
En 2018 publicó Gender Shades con Timnit Gebru. Evaluaron tres clasificadores comerciales y observaron errores de hasta el 34,7 % en mujeres de piel oscura, frente a un máximo del 0,8 % en hombres de piel clara. La comparación mostró diferencias que una cifra global de precisión podía ocultar. [3]
La tarea evaluada consistía en asignar etiquetas binarias de género a fotografías, no en identificar quién era una persona. Buolamwini distinguió detección, clasificación, verificación e identificación, y señaló que aquellas etiquetas comerciales no representaban adecuadamente la complejidad del género ni las identidades trans. [12]
De medir errores a revisar las auditorías
Con Inioluwa Deborah Raji publicó Actionable Auditing en 2019. Compararon resultados posteriores de las empresas examinadas, documentaron la comunicación de hallazgos y añadieron pruebas de otros proveedores. El estudio analizó cómo una auditoría externa y la divulgación pública podían impulsar cambios en productos comerciales. [13]
Saving Face, de 2020, examinó un problema adicional: una auditoría bien intencionada también puede perjudicar a las personas que busca proteger. Como coautora, Buolamwini participó en una reflexión sobre datos biométricos sensibles, decisiones de evaluación y tensiones éticas al investigar tecnologías cuyo uso puede resultar cuestionable. [14]
Who Audits the Auditors?, publicado en FAccT 2022, estudió el ecosistema de auditoría mediante un inventario, encuestas y entrevistas. El equipo propuso estándares claros, independencia, participación de las personas afectadas y publicación de hallazgos esenciales. La contribución se ocupa de la calidad de la auditoría, no solo del rendimiento del algoritmo. [15]
Intervención pública y derechos biométricos
Compareció ante el Congreso estadounidense el 22 de mayo de 2019 en una audiencia sobre reconocimiento facial. Expuso sus investigaciones y defendió una moratoria del uso policial. Su intervención trasladó resultados académicos al debate sobre libertades civiles y control de tecnologías de identificación. [16]
En su testimonio de marzo de 2024 ante la Comisión de Derechos Civiles insistió en consentimiento, transparencia y vigilancia independiente. Defendió que no utilizar un sistema sigue siendo una opción cuando su despliegue vulnera derechos, y que evaluar precisión no sustituye examinar sus usos y consecuencias. [17]
AJL y el Center on Privacy & Technology de Georgetown promovieron Safe Face Pledge, un compromiso voluntario para limitar usos dañinos de análisis facial. La iniciativa figura actualmente como inactiva; su relevancia es histórica dentro de la búsqueda de compromisos de proveedores y compradores. [18]
Poesía, arte y Coded Bias
Su pieza AI, Ain’t I a Woman? combina poesía e imágenes para mostrar fallos de sistemas comerciales al analizar rostros de mujeres conocidas. El MIT documenta su presencia en exposiciones del Museum of Fine Arts de Boston y el Barbican, junto con otras obras sobre la mirada algorítmica. [2]
Coded Bias, dirigido por Shalini Kantayya, se estrenó en Sundance en 2020. El documental sigue a Buolamwini y a otras investigadoras y activistas, relacionando pruebas técnicas con experiencias de personas sometidas a vigilancia y decisiones automatizadas. Buolamwini participa como protagonista e investigadora, no como directora. [19]
PBS emitió la película en Independent Lens el 22 de marzo de 2021. Sus créditos atribuyen a Buolamwini la letra de AI, Ain’t I a Woman?, utilizada en la canción principal. Su participación reúne así investigación, interpretación pública y creación artística. [20]
Unmasking AI y divulgación
Unmasking AI: My Mission to Protect What Is Human in a World of Machines, publicado en 2023, combina memoria personal y explicación de sesgos algorítmicos. El libro recorre su formación, investigación y activismo, situando las experiencias humanas en el centro del debate tecnológico. [5]
En un extracto publicado por MIT Sloan explica que los datos pueden reflejar desigualdades históricas y estructuras de poder. [4]
AJL ofrece guías de lectura y de proyección de Coded Bias, además del taller Drag vs AI. Este propone modificar la presentación del rostro para explorar de manera participativa las limitaciones de sistemas que intentan inferir características humanas a partir de imágenes. [22]
Investigación sobre reconocimiento facial en aeropuertos
En Comply to Fly?, de 2025, Buolamwini, Sushma Raman y Andrea Dean reunieron experiencias aportadas por viajeros a Freedom Flyers, campaña iniciada en 2023. Examinaron información, consentimiento y trato al rechazar el escaneo facial en controles aeroportuarios estadounidenses. Es evidencia testimonial participativa, no una muestra estadísticamente representativa de todos los viajeros. [21]
Premios y reconocimientos
En 2017 obtuvo uno de los grandes premios de Search for Hidden Figures, destinado a apoyar a mujeres en ciencia y tecnología. [8]
MIT Technology Review la incluyó entre sus Innovators Under 35 de 2018, en la categoría de visionarios, por su investigación de sesgos en análisis facial y su trabajo para promover responsabilidad tecnológica. [24]
En 2024 recibió el NAACP–Archewell Foundation Digital Civil Rights Award. La distinción reconoció su defensa de derechos digitales y de una IA equitativa y responsable, conectando investigación, transparencia y participación pública. [23]
