A pesquisa conduzida por Joy Buolamwini revelou que softwares comerciais de reconhecimento facial apresentavam taxas de erro de até 34,7% para mulheres de pele mais escura, em comparação com menos de 1% para homens de pele mais clara. Esta descoberta, publicada no estudo Gender Shades de 2018, desencadeou mudanças significativas nas políticas e medidas de responsabilidade corporativa dentro do setor tecnológico global.
Desenvolvimento inicial e formação acadêmica
Nascida em Edmonton em 1989, Buolamwini cresceu no Mississippi e frequentou a Cordova High School. Seu interesse pela computação começou aos nove anos após encontrar Kismet, um robô do MIT. Ela aprendeu JavaScript, XHTML e PHP por conta própria enquanto seguia carreira como atleta estudantil em basquete e salto com vara. Ela obteve seu diploma de graduação no Georgia Tech em 2012, onde foi bolsista Stamps President e finalista do InVenture Prize de 2009.
Bolsas internacionais e primeiros projetos
Buolamwini recebeu vários prêmios prestigiosos, incluindo uma Bolsa Rhodes e uma Bolsa Fulbright. Como bolsista Rhodes no Jesus College, Oxford, ela focou em aprendizagem e tecnologia enquanto participava de projetos de serviço comunitário. Em 2011, ela desenvolveu um sistema de avaliação baseado em Android para um programa de tracoma no Carter Center, na Etiópia. Mais tarde, em 2013, ela colaborou com cientistas da computação locais na Zâmbia para apoiar o envolvimento dos jovens na criação tecnológica.
O MIT Media Lab e o olhar codificado
No Instituto de Tecnologia de Massachusetts, Buolamwini concluiu um mestrado em 2017 e um doutorado em 2022. Sob a supervisão de Ethan Zuckerman, ela explorou os riscos éticos da inteligência artificial. Ela cunhou o termo olhar codificado (coded gaze) para descrever como a tomada de decisão algorítmica reflete os vieses inerentes às perspectivas dos designers de software. Durante este período, ela fundou a Algorithmic Justice League para defender a equidade em sistemas automatizados.
Vinte perguntas, oito minutos no relógio e um percentil medido contra todos os que já fizeram. Sem cadastro.
Fazer o teste de QI →Influência política e defesa pública
A pesquisa de Buolamwini influenciou diretamente as práticas da indústria, levando empresas como a IBM a descontinuar o software de reconhecimento facial em 2020. Ela testemunhou perante o Congresso dos Estados Unidos para defender a Lei de Responsabilidade Algorítmica. Seu trabalho atingiu um público amplo através do documentário Coded Bias de 2020, que examinou os danos sociais da IA. Em 2023, ela publicou o livro Unmasking AI: My Mission to Protect What is Human in a World of Machines.
Fatos rápidos
- Nascimento: 1989, Edmonton, Canadá - Graduação: Georgia Tech - Pós-graduação: Instituto de Tecnologia de Massachusetts - Reconhecimento notável: Bolsa Rhodes (2013) - Reconhecimento notável: Shuttleworth Foundation Flash Grant (2017) - Reconhecimento notável: 100 Mulheres da BBC (2018) - Organização fundada: Algorithmic Justice League
Perguntas dos leitores
### Qual é o foco principal da Algorithmic Justice League?
A organização trabalha para abordar o viés em softwares de tomada de decisão por meio de pesquisa, defesa e arte.
### Como a pesquisa de Buolamwini impactou a indústria de tecnologia?
Seu estudo Gender Shades forçou grandes empresas a melhorar a precisão do reconhecimento facial e levou a IBM a descontinuar seu software.
