La ricerca condotta da Joy Buolamwini ha rivelato che i software commerciali di riconoscimento facciale presentavano tassi di errore fino al 34,7% per le donne dalla pelle più scura, rispetto a meno dell'1% per gli uomini dalla pelle più chiara. Questa scoperta, pubblicata nello studio Gender Shades del 2018, ha innescato significativi cambiamenti nelle politiche e nelle misure di responsabilità aziendale all'interno del settore tecnologico globale.
Sviluppo iniziale e formazione accademica
Nata a Edmonton nel 1989, Buolamwini è cresciuta nel Mississippi e ha frequentato la Cordova High School. Il suo interesse per l'informatica è iniziato all'età di nove anni dopo aver incontrato Kismet, un robot del MIT. Ha imparato da sola JavaScript, XHTML e PHP mentre proseguiva una carriera come studentessa-atleta nel basket e nel salto con l'asta. Ha conseguito la laurea presso il Georgia Tech nel 2012, dove è stata Stamps President's Scholar e finalista dell'InVenture Prize del 2009.
Borse di studio internazionali e primi progetti
Buolamwini ha ricevuto numerosi premi prestigiosi, tra cui una borsa di studio Rhodes e una borsa Fulbright. Come borsista Rhodes al Jesus College di Oxford, si è concentrata sull'apprendimento e sulla tecnologia mentre partecipava a progetti di servizio alla comunità. Nel 2011, ha sviluppato un sistema di valutazione basato su Android per un programma contro il tracoma presso il Carter Center in Etiopia. Più tardi, nel 2013, ha collaborato con informatici locali in Zambia per sostenere il coinvolgimento dei giovani nella creazione tecnologica.
Il MIT Media Lab e lo sguardo codificato
Al Massachusetts Institute of Technology, Buolamwini ha completato un master nel 2017 e un dottorato nel 2022. Sotto la supervisione di Ethan Zuckerman, ha esplorato i rischi etici dell'intelligenza artificiale. Ha coniato il termine sguardo codificato (coded gaze) per descrivere come il processo decisionale algoritmico rifletta i pregiudizi inerenti alle prospettive dei progettisti di software. Durante questo periodo, ha fondato la Algorithmic Justice League per sostenere l'equità nei sistemi automatizzati.
Venti domande, otto minuti di orologio e un percentile misurato su tutti quelli che l’hanno fatto. Senza registrazione.
Fai il test del QI →Influenza politica e sostegno pubblico
La ricerca di Buolamwini ha influenzato direttamente le pratiche del settore, portando aziende come IBM a interrompere il software di riconoscimento facciale nel 2020. Ha testimoniato davanti al Congresso degli Stati Uniti per sostenere l'Algorithmic Accountability Act. Il suo lavoro ha raggiunto un vasto pubblico attraverso il documentario Coded Bias del 2020, che ha esaminato i danni sociali dell'IA. Nel 2023, ha pubblicato il libro Unmasking AI: My Mission to Protect What is Human in a World of Machines.
Fatti in breve
- Nascita: 1989, Edmonton, Canada - Laurea di primo livello: Georgia Tech - Titoli post-laurea: Massachusetts Institute of Technology - Riconoscimento notevole: Borsa di studio Rhodes (2013) - Riconoscimento notevole: Shuttleworth Foundation Flash Grant (2017) - Riconoscimento notevole: 100 Women della BBC (2018) - Organizzazione fondata: Algorithmic Justice League
Domande poste dai lettori
### Qual è l'obiettivo principale della Algorithmic Justice League?
L'organizzazione lavora per affrontare i pregiudizi nei software decisionali attraverso la ricerca, l'advocacy e l'arte.
### In che modo la ricerca di Buolamwini ha influito sull'industria tecnologica?
Il suo studio Gender Shades ha costretto le grandi aziende a migliorare la precisione del riconoscimento facciale e ha portato IBM a interrompere il proprio software.
