המחקר שערכה ג'וי בואולמוויני (Joy Buolamwini) חשף כי תוכנות מסחריות לזיהוי פנים הציגו שיעורי שגיאה של עד 34.7% עבור נשים כהות עור, בהשוואה לפחות מ-1% עבור גברים בהירי עור. ממצא זה, שפורסם במחקר Gender Shades בשנת 2018, עורר שינויי מדיניות משמעותיים ואמצעי אחריות תאגידית במגזר הטכנולוגי העולמי.
פיתוח מוקדם והכשרה אקדמית
בואולמוויני נולדה באדמונטון בשנת 1989, גדלה במיסיסיפי ולמדה בתיכון קורדובה. התעניינותה במחשוב החלה בגיל תשע לאחר שפגשה את קיסמט (Kismet), רובוט של MIT. היא למדה בעצמה JavaScript, XHTML ו-PHP תוך כדי שפיתחה קריירה כספורטאית סטודנטית בכדורסל ובקפיצה במוט. היא קיבלה את התואר הראשון שלה ממכון ג'ורג'יה טק (Georgia Tech) בשנת 2012, שם הייתה מלגאית נשיאותית של תוכנית Stamps ופיינליסטית בפרס InVenture לשנת 2009.
מלגות בינלאומיות ופרויקטים מוקדמים
בואולמוויני קיבלה פרסים יוקרתיים רבים, כולל מלגת רודס (Rhodes Scholarship) ומלגת פולברייט (Fulbright Scholarship). כמלגאית רודס בקולג' ישו שבאוקספורד, היא התמקדה בלמידה ובטכנולוגיה תוך השתתפות בפרויקטים קהילתיים. בשנת 2011, היא פיתחה מערכת הערכה מבוססת אנדרואיד עבור תוכנית לטיפול בטרכומה במרכז קרטר (Carter Center) שבאתיופיה. מאוחר יותר, בשנת 2013, היא שיתפה פעולה עם מדעני מחשב מקומיים בזמביה כדי לתמוך במעורבות צעירים ביצירה טכנולוגית.
מעבדת המדיה של MIT והמבט המקודד
במכון הטכנולוגי של מסצ'וסטס (MIT), השלימה בואולמוויני תואר שני בשנת 2017 ותואר דוקטור בשנת 2022. בהנחייתו של איתן צוקרמן (Ethan Zuckerman), היא חקרה את הסיכונים האתיים של בינה מלאכותית. היא טבעה את המונח "מבט מקודד" (Coded Gaze) כדי לתאר כיצד קבלת החלטות אלגוריתמית משקפת את ההטיות הטבועות בפרספקטיבות של מפתחי תוכנה. במהלך תקופה זו, היא ייסדה את הליגה לצדק אלגוריתמי (Algorithmic Justice League) כדי לקדם שוויון במערכות אוטומטיות.
Twenty questions, eight minutes on the clock, and a percentile measured against everyone who has taken it. No sign-up.
Take the IQ test →השפעה על מדיניות ופעילות ציבורית
המחקר של בואולמוויני השפיע ישירות על שיטות העבודה בתעשייה, מה שהוביל חברות כמו IBM להפסיק את השימוש בתוכנות לזיהוי פנים בשנת 2020. היא העידה בפני הקונגרס של ארצות הברית כדי לתמוך בחוק האחריות האלגוריתמית. עבודתה הגיעה לקהל רחב באמצעות הסרט התיעודי Coded Bias משנת 2020, שבחן את הנזקים החברתיים של בינה מלאכותית. בשנת 2023, היא פרסמה את הספר Unmasking AI: My Mission to Protect What is Human in a World of Machines.
עובדות מהירות
- לידה: 1989, אדמונטון, קנדה - תואר ראשון: ג'ורג'יה טק - תארים מתקדמים: המכון הטכנולוגי של מסצ'וסטס - הכרה בולטת: מלגת רודס (2013) - הכרה בולטת: מענק Flash של קרן שאטלוורת' (2017) - הכרה בולטת: רשימת 100 הנשים של ה-BBC (2018) - ארגון שייסדה: הליגה לצדק אלגוריתמי
שאלות נפוצות של קוראים
### מהו המיקוד העיקרי של הליגה לצדק אלגוריתמי?
הארגון פועל לטיפול בהטיות בתוכנות לקבלת החלטות באמצעות מחקר, הסברה ואמנות.
### כיצד השפיע המחקר של בואולמוויני על תעשיית הטכנולוגיה?
מחקר ה-Gender Shades שלה אילץ חברות גדולות לשפר את דיוק זיהוי הפנים והוביל את חברת IBM להפסיק את התוכנה שלה.