Qui és Joy Buolamwini
Joy Buolamwini és informàtica, escriptora i artista, fundadora i presidenta d’Algorithmic Justice League. El seu treball combina recerca sobre sistemes d’intel·ligència artificial, comunicació pública i defensa d’una tecnologia més equitativa i responsable. [1]
Va néixer al Canadà en una família d’origen africà i va créixer en un entorn internacional que va incloure Ghana, Espanya i els Estats Units. Georgia Tech documenta l’etapa escolar a Memphis i l’interès primerenc per crear aplicacions amb utilitat social. [6]
Formació i primers projectes
Es va graduar en informàtica a Georgia Tech el 2012. Va completar un màster en Educació, especialitzat en aprenentatge i tecnologia, a Oxford el 2014, i un altre en Media Arts and Sciences al MIT el 2017. [7]
Durant una beca Fulbright a Lusaka, Zàmbia, va desenvolupar una iniciativa d’aprenentatge informàtic. Després va crear Code4Rights perquè joves col·laboressin amb organitzacions locals i desenvolupessin tecnologia útil per a les seves comunitats. [8]
Al text InCoding de 2016 va defensar que qui programa incorpora decisions i perspectives als sistemes. Va presentar projectes com Code4Rights i SlayPlay, que explorava música mitjançant moviment, com a formes d’apropar la creació tecnològica a participants diversos. [25]
Va obtenir el doctorat al MIT el 2022, sota la direcció d’Ethan Zuckerman. La tesi, Facing the Coded Gaze with Evocative Audits and Algorithmic Audits, va estudiar com combinar proves tècniques i recursos narratius per fer visibles danys que una taula de resultats no comunica per si sola. [9]
Del mirall interactiu a la recerca del biaix
Al projecte Aspire Mirror va intentar superposar imatges sobre el rostre. El programa detectava millor les cares de companys de pell clara; per completar el treball va utilitzar una màscara blanca. Va relatar que un problema semblant va reaparèixer a UpBeat Walls, una instal·lació que convertia moviments facials en pintura digital. [11]
La xerrada How I’m Fighting Bias in Algorithms, presentada a TEDxBeaconStreet el novembre de 2016, va portar aquella experiència a un públic ampli. Va introduir l’expressió coded gaze per explicar que els sistemes automatitzats poden incorporar exclusions presents a les dades i a les decisions dels creadors. [10]
Va fundar Algorithmic Justice League la tardor de 2016. [7]
Gender Shades i l’avaluació per subgrups
El 2018 va publicar Gender Shades amb Timnit Gebru. Van avaluar tres classificadors comercials i van observar errors de fins al 34,7 % en dones de pell fosca, davant d’un màxim del 0,8 % en homes de pell clara. La comparació va mostrar diferències que una xifra global de precisió podia ocultar. [3]
La tasca avaluada consistia a assignar etiquetes binàries de gènere a fotografies, no a identificar qui era una persona. Buolamwini va distingir detecció, classificació, verificació i identificació, i va assenyalar que aquelles etiquetes comercials no representaven adequadament la complexitat del gènere ni les identitats trans. [12]
De mesurar errors a revisar les auditories
Amb Inioluwa Deborah Raji va publicar Actionable Auditing el 2019. Van comparar resultats posteriors de les empreses examinades, van documentar la comunicació de troballes i van afegir proves d’altres proveïdors. L’estudi va analitzar com una auditoria externa i la divulgació pública podien impulsar canvis en productes comercials. [13]
Saving Face, de 2020, va examinar un problema addicional: una auditoria ben intencionada també pot perjudicar les persones que busca protegir. Com a coautora, Buolamwini va participar en una reflexió sobre dades biomètriques sensibles, decisions d’avaluació i tensions ètiques en investigar tecnologies l’ús de les quals pot resultar qüestionable. [14]
Who Audits the Auditors?, publicat a FAccT 2022, va estudiar l’ecosistema d’auditoria mitjançant un inventari, enquestes i entrevistes. L’equip va proposar estàndards clars, independència, participació de les persones afectades i publicació de troballes essencials. La contribució s’ocupa de la qualitat de l’auditoria, no només del rendiment de l’algoritme. [15]
Intervenció pública i drets biomètrics
Va comparèixer davant del Congrés nord-americà el 22 de maig de 2019 en una audiència sobre reconeixement facial. Va exposar les investigacions i va defensar una moratòria de l’ús policial. La intervenció va traslladar resultats acadèmics al debat sobre llibertats civils i control de tecnologies d’identificació. [16]
Al testimoni de març de 2024 davant la Comissió de Drets Civils va insistir en consentiment, transparència i vigilància independent. Va defensar que no utilitzar un sistema continua sent una opció quan el desplegament vulnera drets, i que avaluar precisió no substitueix examinar-ne els usos i les conseqüències. [17]
AJL i el Center on Privacy & Technology de Georgetown van promoure Safe Face Pledge, un compromís voluntari per limitar usos perjudicials de l’anàlisi facial. La iniciativa figura actualment com a inactiva; la seva rellevància és històrica dins de la cerca de compromisos de proveïdors i compradors. [18]
Poesia, art i Coded Bias
La peça AI, Ain’t I a Woman? combina poesia i imatges per mostrar fallades de sistemes comercials en analitzar rostres de dones conegudes. El MIT documenta la presència en exposicions del Museum of Fine Arts de Boston i el Barbican, amb altres obres sobre la mirada algorítmica. [2]
Coded Bias, dirigit per Shalini Kantayya, es va estrenar a Sundance el 2020. El documental segueix Buolamwini i altres investigadores i activistes, relacionant proves tècniques amb experiències de persones sotmeses a vigilància i decisions automatitzades. Buolamwini hi participa com a protagonista i investigadora, no com a directora. [19]
PBS va emetre la pel·lícula a Independent Lens el 22 de març de 2021. Els crèdits atribueixen a Buolamwini la lletra d’AI, Ain’t I a Woman?, utilitzada a la cançó principal. La participació reuneix així recerca, interpretació pública i creació artística. [20]
Unmasking AI i divulgació
Unmasking AI: My Mission to Protect What Is Human in a World of Machines, publicat el 2023, combina memòria personal i explicació de biaixos algorítmics. El llibre recorre la formació, recerca i activisme, situant les experiències humanes al centre del debat tecnològic. [5]
En un extracte publicat per MIT Sloan explica que les dades poden reflectir desigualtats històriques i estructures de poder. [4]
AJL ofereix guies de lectura i de projecció de Coded Bias, a més del taller Drag vs AI. Aquest proposa modificar la presentació del rostre per explorar de manera participativa les limitacions de sistemes que intenten inferir característiques humanes a partir d’imatges. [22]
Recerca sobre reconeixement facial als aeroports
A Comply to Fly?, de 2025, Buolamwini, Sushma Raman i Andrea Dean van reunir experiències aportades per viatgers a Freedom Flyers, campanya iniciada el 2023. Van examinar informació, consentiment i tracte en rebutjar l’escaneig facial als controls aeroportuaris nord-americans. És evidència testimonial participativa, no una mostra estadísticament representativa de tots els viatgers. [21]
Premis i reconeixements
El 2017 va obtenir un dels grans premis de Search for Hidden Figures, destinat a donar suport a dones en ciència i tecnologia. [8]
MIT Technology Review la va incloure entre els Innovators Under 35 de 2018, en la categoria de visionaris, per la recerca de biaixos en anàlisi facial i el treball per promoure responsabilitat tecnològica. [24]
El 2024 va rebre el NAACP–Archewell Foundation Digital Civil Rights Award. La distinció va reconèixer la defensa de drets digitals i d’una IA equitativa i responsable, connectant recerca, transparència i participació pública. [23]
