조이 부올람위니가 수행한 연구에 따르면, 상용 얼굴 인식 소프트웨어는 피부색이 어두운 여성에게는 최대 34.7%의 오류율을 보인 반면, 피부색이 밝은 남성에게는 1% 미만의 오류율을 보였습니다. 2018년 '젠더 셰이즈(Gender Shades)' 연구에서 발표된 이 발견은 글로벌 기술 부문 내에서 중대한 정책 변화와 기업 책임 조치를 촉발했습니다.
초기 성장 및 학업
부올람위니는 1989년 에드먼턴에서 태어나 미시시피에서 자랐으며 코도바 고등학교를 다녔습니다. 컴퓨터에 대한 그녀의 관심은 9세 때 MIT의 로봇인 키스멧(Kismet)을 접하면서 시작되었습니다. 그녀는 농구와 장대높이뛰기 선수로 활동하는 동안 독학으로 자바스크립트(JavaScript), XHTML, PHP를 익혔습니다. 2012년 조지아 공과대학교(Georgia Tech)에서 학사 학위를 받았으며, 스탬프스 프레지던트 장학생으로 선발되었고 2009년 인벤처 프라이즈(InVenture Prize) 결선 진출자였습니다.
국제 장학 프로그램 및 초기 프로젝트
부올람위니는 로즈 장학금과 풀브라이트 장학금을 포함하여 여러 권위 있는 상을 받았습니다. 옥스퍼드 대학교 지저스 칼리지의 로즈 장학생으로서 그녀는 지역 사회 봉사 프로젝트에 참여하면서 학습과 기술에 집중했습니다. 2011년에는 에티오피아 카터 센터의 트라코마 프로그램을 위한 안드로이드 기반 평가 시스템을 개발했습니다. 이후 2013년에는 잠비아 현지 컴퓨터 과학자들과 협력하여 청소년들의 기술 창작 참여를 지원했습니다.
MIT 미디어 랩과 코드화된 시선
매사추세츠 공과대학교(MIT)에서 부올람위니는 2017년 석사 학위, 2022년 박사 학위를 취득했습니다. 이선 저커먼의 지도하에 그녀는 인공지능의 윤리적 위험을 탐구했습니다. 그녀는 알고리즘 의사 결정이 소프트웨어 설계자의 관점에 내재된 편향을 어떻게 반영하는지 설명하기 위해 '코드화된 시선(coded gaze)'이라는 용어를 만들었습니다. 이 기간 동안 그녀는 자동화 시스템의 형평성을 옹호하기 위해 '알고리즘 정의 연맹(Algorithmic Justice League)'을 설립했습니다.
정책 영향 및 대중적 옹호
부올람위니의 연구는 업계 관행에 직접적인 영향을 미쳤으며, IBM과 같은 기업들이 2020년에 얼굴 인식 소프트웨어를 중단하게 했습니다. 그녀는 미국 의회에서 증언하며 '알고리즘 책임법(Algorithmic Accountability Act)'을 지지했습니다. 그녀의 연구는 AI의 사회적 해악을 다룬 2020년 다큐멘터리 '코디드 바이어스(Coded Bias)'를 통해 대중에게 널리 알려졌습니다. 2023년에는 'Unmasking AI: My Mission to Protect What is Human in a World of Machines'라는 책을 출간했습니다.
핵심 정보
- 출생: 1989년, 캐나다 에드먼턴 - 학사 학위: 조지아 공과대학교 - 석/박사 학위: 매사추세츠 공과대학교 - 주요 수상: 로즈 장학금 (2013년) - 주요 수상: 셔틀워스 재단 플래시 그랜트 (2017년) - 주요 수상: BBC 100인의 여성 (2018년) - 설립 조직: 알고리즘 정의 연맹
독자 질문
### 알고리즘 정의 연맹의 주요 목적은 무엇인가요?
이 단체는 연구, 옹호, 예술 활동을 통해 의사 결정 소프트웨어의 편향성을 해결하기 위해 노력합니다.
### 부올람위니의 연구가 기술 업계에 미친 영향은 무엇인가요?
그녀의 '젠더 셰이즈' 연구는 주요 기업들이 얼굴 인식의 정확도를 개선하도록 강제했으며, IBM이 해당 소프트웨어를 중단하게 만들었습니다.
