Joy Buolamwini tarafından yürütülen araştırma, ticari yüz tanıma yazılımlarının koyu tenli kadınlar için %34,7'ye varan hata oranlarına sahip olduğunu, açık tenli erkekler için ise bu oranın %1'in altında olduğunu ortaya koymuştur. 2018 tarihli Gender Shades (Cinsiyet Gölgeleri) çalışmasında yayınlanan bu bulgu, küresel teknoloji sektöründe önemli politika değişikliklerini ve kurumsal hesap verebilirlik önlemlerini tetiklemiştir.
Erken Gelişim ve Akademik Eğitim
1989'da Edmonton'da doğan Buolamwini, Mississippi'de büyüdü ve Cordova Lisesi'ne gitti. Bilgisayara olan ilgisi, dokuz yaşındayken MIT robotu Kismet ile tanıştıktan sonra başladı. Basketbol ve sırıkla atlama dallarında öğrenci-sporcu olarak kariyerine devam ederken kendi kendine JavaScript, XHTML ve PHP öğrendi. 2012 yılında, Stamps President bursiyeri olduğu ve 2009 InVenture Ödülü'nün finalisti olduğu Georgia Tech'ten lisans derecesini aldı.
Uluslararası Burslar ve İlk Projeler
Buolamwini, Rhodes Bursu ve Fulbright Bursu dahil olmak üzere birçok prestijli ödül aldı. Oxford'daki Jesus College'da Rhodes Bursiyeri olarak, toplum odaklı hizmet projelerine katılırken öğrenme ve teknoloji üzerine odaklandı. 2011 yılında, Etiyopya'daki Carter Center'da trahom programı için Android tabanlı bir değerlendirme sistemi geliştirdi. Daha sonra, 2013 yılında, gençlerin teknoloji üretimine katılımını desteklemek için Zambiya'daki yerel bilgisayar bilimcileriyle işbirliği yaptı.
MIT Media Lab ve Kodlanmış Bakış
Massachusetts Teknoloji Enstitüsü'nde (MIT) Buolamwini, 2017'de yüksek lisansını ve 2022'de doktorasını tamamladı. Ethan Zuckerman'ın danışmanlığında, yapay zekanın etik risklerini araştırdı. Algoritmik karar vermenin, yazılım tasarımcılarının bakış açılarında var olan önyargıları nasıl yansıttığını tanımlamak için kodlanmış bakış (coded gaze) terimini ortaya attı. Bu dönemde, otomatikleştirilmiş sistemlerde eşitliği savunmak için Algorithmic Justice League'i (Algoritmik Adalet Ligi) kurdu.
Politika Etkisi ve Kamu Savunuculuğu
Buolamwini'nin araştırması, IBM gibi şirketlerin 2020 yılında yüz tanıma yazılımlarını durdurmasına yol açarak endüstri uygulamalarını doğrudan etkiledi. Algoritmik Hesap Verebilirlik Yasası'nı savunmak için Amerika Birleşik Devletleri Kongresi önünde ifade verdi. Çalışmaları, yapay zekanın toplumsal zararlarını inceleyen 2020 yapımı Coded Bias adlı belgesel aracılığıyla geniş bir kitleye ulaştı. 2023 yılında Unmasking AI: My Mission to Protect What is Human in a World of Machines (Yapay Zekanın Maskesini Düşürmek: Makineler Dünyasında İnsani Olanı Koruma Misyonum) adlı kitabı yayınladı.
Hızlı Bilgiler
- Doğum: 1989, Edmonton, Kanada - Lisans Derecesi: Georgia Tech - Lisansüstü Dereceler: Massachusetts Teknoloji Enstitüsü - Önemli Tanınma: Rhodes Bursu (2013) - Önemli Tanınma: Shuttleworth Vakfı Flash Hibesi (2017) - Önemli Tanınma: BBC 100 Kadın (2018) - Kurulan Organizasyon: Algoritmik Adalet Ligi
Okuyucuların sorduğu sorular
### Algoritmik Adalet Ligi'nin birincil odağı nedir?
Organizasyon, araştırma, savunuculuk ve sanat yoluyla karar verme yazılımlarındaki önyargıları gidermek için çalışmaktadır.
### Buolamwini'nin araştırması teknoloji endüstrisini nasıl etkiledi?
Gender Shades çalışması, büyük şirketleri yüz tanıma doğruluğunu iyileştirmeye zorladı ve IBM'in yazılımını durdurmasına yol açtı.
