Исследование, проведенное Джой Буоламвини, показало, что коммерческое программное обеспечение для распознавания лиц имело уровень ошибок до 34,7% у темнокожих женщин, по сравнению с менее чем 1% у светлокожих мужчин. Этот вывод, опубликованный в исследовании 2018 года «Гендерные тени» (Gender Shades), вызвал значительные изменения в политике и меры корпоративной ответственности в мировом технологическом секторе.
Раннее развитие и академическая подготовка
Буоламвини родилась в Эдмонтоне в 1989 году, выросла в Миссисипи и училась в средней школе Кордова. Ее интерес к вычислительной технике начался в возрасте девяти лет после знакомства с Kismet, роботом MIT. Она самостоятельно освоила JavaScript, XHTML и PHP, совмещая это с карьерой студента-спортсмена по баскетболу и прыжкам с шестом. В 2012 году она получила степень бакалавра в Технологическом институте Джорджии, где была стипендиатом Stamps President и финалистом премии InVenture Prize 2009 года.
Международные стипендии и ранние проекты
Буоламвини получила множество престижных наград, включая стипендии Родса и Фулбрайта. Будучи стипендиатом Родса в колледже Иисуса в Оксфорде, она сосредоточилась на обучении и технологиях, участвуя в общественных проектах. В 2011 году она разработала систему оценки на базе Android для программы борьбы с трахомой в Центре Картера в Эфиопии. Позже, в 2013 году, она сотрудничала с местными компьютерными специалистами в Замбии для поддержки участия молодежи в создании технологий.
Лаборатория MIT Media Lab и кодированный взгляд
В Массачусетском технологическом институте (MIT) Буоламвини получила степень магистра в 2017 году и степень доктора философии в 2022 году. Под руководством Итана Цукермана она исследовала этические риски искусственного интеллекта. Она ввела термин «кодированный взгляд» (coded gaze), чтобы описать, как алгоритмическое принятие решений отражает предвзятости, присущие взглядам разработчиков программного обеспечения. В этот период она основала Лигу алгоритмической справедливости (Algorithmic Justice League) для продвижения равенства в автоматизированных системах.
Двадцать вопросов, восемь минут на часах и процентиль, измеренный по всем, кто его проходил. Без регистрации.
Пройти тест IQ →Влияние на политику и общественная деятельность
Исследования Буоламвини напрямую повлияли на практику отрасли, что побудило такие компании, как IBM, прекратить использование программного обеспечения для распознавания лиц в 2020 году. Она давала показания перед Конгрессом США, выступая за принятие Закона об алгоритмической подотчетности. Ее работа охватила широкую аудиторию благодаря документальному фильму 2020 года «Кодированная предвзятость» (Coded Bias), в котором рассматривался социальный вред ИИ. В 2023 году она опубликовала книгу «Разоблачение ИИ: Моя миссия по защите человеческого в мире машин» (Unmasking AI: My Mission to Protect What is Human in a World of Machines).
Краткие факты
- Дата рождения: 1989, Эдмонтон, Канада - Степень бакалавра: Технологический институт Джорджии - Ученые степени: Массачусетский технологический институт - Значимое признание: Стипендия Родса (2013) - Значимое признание: Грант Shuttleworth Foundation (2017) - Значимое признание: 100 женщин BBC (2018) - Основанная организация: Лига алгоритмической справедливости
Вопросы читателей
### Какова основная цель Лиги алгоритмической справедливости?
Организация работает над устранением предвзятости в программном обеспечении для принятия решений с помощью исследований, адвокации и искусства.
### Как исследования Буоламвини повлияли на технологическую индустрию?
Ее исследование «Гендерные тени» вынудило крупные компании улучшить точность распознавания лиц и привело к тому, что IBM отказалась от своего программного обеспечения.
