La investigación realizada por Joy Buolamwini reveló que el software comercial de reconocimiento facial experimentaba tasas de error de hasta el 34,7% para mujeres de piel más oscura, en comparación con menos del 1% para hombres de piel más clara. Este hallazgo, publicado en el estudio Gender Shades de 2018, provocó cambios significativos en las políticas y medidas de responsabilidad corporativa dentro del sector tecnológico global.
Desarrollo temprano y formación académica
Nacida en Edmonton en 1989, Buolamwini creció en Misisipi y asistió a la escuela secundaria Cordova. Su interés por la informática comenzó a los nueve años tras conocer a Kismet, un robot del MIT. Aprendió JavaScript, XHTML y PHP por su cuenta mientras seguía una carrera como estudiante atleta en baloncesto y salto con pértiga. Obtuvo su licenciatura en Georgia Tech en 2012, donde fue becaria Stamps President y finalista del Premio InVenture de 2009.
Becas internacionales y primeros proyectos
Buolamwini recibió múltiples premios prestigiosos, incluidas una beca Rhodes y una beca Fulbright. Como becaria Rhodes en el Jesus College de Oxford, se centró en el aprendizaje y la tecnología mientras participaba en proyectos de servicio centrados en la comunidad. En 2011, desarrolló un sistema de evaluación basado en Android para un programa de tracoma en el Centro Carter en Etiopía. Más tarde, en 2013, colaboró con informáticos locales en Zambia para apoyar la participación juvenil en la creación tecnológica.
El MIT Media Lab y la mirada codificada
En el Instituto Tecnológico de Massachusetts, Buolamwini completó una maestría en 2017 y un doctorado en 2022. Bajo la supervisión de Ethan Zuckerman, exploró los riesgos éticos de la inteligencia artificial. Acuñó el término mirada codificada (coded gaze) para describir cómo la toma de decisiones algorítmica refleja los sesgos inherentes a las perspectivas de los diseñadores de software. Durante este período, fundó la Algorithmic Justice League para defender la equidad en los sistemas automatizados.
Veinte preguntas, ocho minutos de reloj y un percentil medido frente a todos los que la han hecho. Sin registro.
Hacer la prueba de CI →Influencia política y defensa pública
La investigación de Buolamwini influyó directamente en las prácticas de la industria, lo que llevó a empresas como IBM a descontinuar su software de reconocimiento facial en 2020. Ha testificado ante el Congreso de los Estados Unidos para abogar por la Ley de Responsabilidad Algorítmica. Su trabajo llegó a una amplia audiencia a través del documental Coded Bias de 2020, que examinó los daños sociales de la IA. En 2023, publicó el libro Unmasking AI: My Mission to Protect What is Human in a World of Machines.
Datos rápidos
- Nacimiento: 1989, Edmonton, Canadá - Título de grado: Georgia Tech - Títulos de posgrado: Instituto Tecnológico de Massachusetts - Reconocimiento notable: Beca Rhodes (2013) - Reconocimiento notable: Subvención Flash de la Fundación Shuttleworth (2017) - Reconocimiento notable: 100 Mujeres de la BBC (2018) - Organización fundada: Algorithmic Justice League
Preguntas frecuentes de los lectores
### ¿Cuál es el enfoque principal de la Algorithmic Justice League?
La organización trabaja para abordar el sesgo en el software de toma de decisiones a través de la investigación, la defensa y el arte.
### ¿Cómo impactó la investigación de Buolamwini en la industria tecnológica?
Su estudio Gender Shades obligó a las grandes empresas a mejorar la precisión del reconocimiento facial y llevó a IBM a descontinuar su software.
