La recherche menée par Joy Buolamwini a révélé que les logiciels commerciaux de reconnaissance faciale présentaient des taux d'erreur allant jusqu'à 34,7 % pour les femmes à la peau foncée, contre moins de 1 % pour les hommes à la peau claire. Cette découverte, publiée dans l'étude Gender Shades de 2018, a déclenché d'importants changements de politique et des mesures de responsabilité d'entreprise au sein du secteur technologique mondial.
Développement précoce et formation académique
Née à Edmonton en 1989, Buolamwini a grandi dans le Mississippi et a fréquenté le lycée Cordova. Son intérêt pour l'informatique a commencé à l'âge de neuf ans après avoir découvert Kismet, un robot du MIT. Elle a appris le JavaScript, le XHTML et le PHP en autodidacte tout en poursuivant une carrière d'étudiante-athlète en basket-ball et en saut à la perche. Elle a obtenu son diplôme de premier cycle à Georgia Tech en 2012, où elle était boursière Stamps President et finaliste du prix InVenture 2009.
Bourses internationales et premiers projets
Buolamwini a reçu plusieurs prix prestigieux, dont une bourse Rhodes et une bourse Fulbright. En tant que boursière Rhodes au Jesus College d'Oxford, elle s'est concentrée sur l'apprentissage et la technologie tout en participant à des projets de service communautaire. En 2011, elle a développé un système d'évaluation basé sur Android pour un programme de lutte contre le trachome au Carter Center en Éthiopie. Plus tard, en 2013, elle a collaboré avec des informaticiens locaux en Zambie pour soutenir l'engagement des jeunes dans la création technologique.
Le MIT Media Lab et le regard codé
Au Massachusetts Institute of Technology, Buolamwini a obtenu un master en 2017 et un doctorat en 2022. Sous la supervision d'Ethan Zuckerman, elle a exploré les risques éthiques de l'intelligence artificielle. Elle a inventé le terme regard codé (coded gaze) pour décrire comment la prise de décision algorithmique reflète les biais inhérents aux perspectives des concepteurs de logiciels. Durant cette période, elle a fondé la Algorithmic Justice League pour promouvoir l'équité dans les systèmes automatisés.
Vingt questions, huit minutes au chronomètre et un centile mesuré face à tous ceux qui l’ont passé. Sans inscription.
Passer le test de QI →Influence politique et plaidoyer public
Les recherches de Buolamwini ont directement influencé les pratiques de l'industrie, amenant des entreprises comme IBM à abandonner les logiciels de reconnaissance faciale en 2020. Elle a témoigné devant le Congrès des États-Unis pour soutenir l'Algorithmic Accountability Act. Son travail a touché un large public grâce au documentaire Coded Bias de 2020, qui examinait les préjudices sociétaux de l'IA. En 2023, elle a publié le livre Unmasking AI: My Mission to Protect What is Human in a World of Machines.
Faits marquants
- Naissance : 1989, Edmonton, Canada - Diplôme de premier cycle : Georgia Tech - Diplômes d'études supérieures : Massachusetts Institute of Technology - Reconnaissance notable : Bourse Rhodes (2013) - Reconnaissance notable : Bourse Shuttleworth Foundation Flash (2017) - Reconnaissance notable : 100 Women de la BBC (2018) - Organisation fondée : Algorithmic Justice League
Questions posées par les lecteurs
### Quel est l'objectif principal de l'Algorithmic Justice League ?
L'organisation travaille à traiter les biais dans les logiciels de prise de décision par la recherche, le plaidoyer et l'art.
### Comment les recherches de Buolamwini ont-elles influencé l'industrie technologique ?
Son étude Gender Shades a contraint de grandes entreprises à améliorer la précision de la reconnaissance faciale et a conduit IBM à abandonner son logiciel.
