제프리 힌튼: 내키지 않는 인공지능의 대부

2024년 10월 노벨 위원회가 그에게 연락했을 때, 제프리 힌튼(Geoffrey Hinton)은 캘리포니아의 저렴한 호텔에 머물고 있었으며 연결 상태가 너무 나빠 뉴스를 거의 들을 수 없었습니다. 그는 "전혀 예상하지 못했습니다."라고 말했습니다. "매우 놀랍고, 포함된 것에 대해 영광으로 생각합니다." 놀랄 만도 했습니다. 힌튼은 케임브리지 대학에서 수학이 자신을 가로막았다는 이유로 1년 만에 물리학을 포기했었기 때문입니다. 57년 후, 스웨덴 왕립 과학 아카데미는 그에게 노벨 물리학상을 수여했습니다.

논리학자의 혈통

제프리 에베레스트 힌튼(Geoffrey Everest Hinton)은 1947년 12월 6일 런던 윔블던에서 지적 탁월함을 가업으로 여기는 가정에서 태어났습니다. 그의 고조할아버지는 모든 디지털 컴퓨터의 근간이 되는 논리 대수학을 정립한 조지 불(George Boole)이었고, 고조할머니는 수학자이자 교육자인 메리 에베레스트 불(Mary Everest Boole)이었습니다. 그의 중간 이름은 산의 이름이기도 한 인도 측량국장 조지 에베레스트(George Everest)에게서 물려받았습니다. 그의 아버지 하워드 힌튼(Howard Hinton)은 곤충학자였고, 사촌 조안 힌튼(Joan Hinton)은 맨해튼 프로젝트에 참여한 핵물리학자였습니다.

그가 유산을 이어받는 경로는 불규칙했습니다. 브리스톨의 클리프턴 칼리지(Clifton College)를 거쳐 1967년 케임브리지 대학 킹스 칼리지에 입학한 그는 자연과학, 예술사, 철학을 전전하다가 1970년 실험심리학 학사 학위를 받았습니다. 그 후 목수 견습생으로 일했습니다. 그는 에든버러 대학의 연구원으로 돌아와 1978년 크리스토퍼 롱게-히긴스(Christopher Longuet-Higgins) 밑에서 인공지능 박사 학위를 받았습니다. 지도 교수는 상징적 AI를 선호했지만, 학생이 신경망을 추구하는 것을 지켜보았습니다.

광야의 세월

그 고집은 대가를 치렀습니다. 1970년대부터 1980년대까지 정통 학계는 지능이 규칙과 기호로부터 공학적으로 설계되어야 하며, 단순 인공 뉴런의 네트워크는 막다른 골목이라고 보았습니다. 힌튼은 서식스 대학과 MRC 응용심리학 부서에서 일했지만 영국 내 자금 조달이 어려워 대서양을 건너 캘리포니아 대학 샌디에이고와 카네기 멜런 대학으로 향했습니다. 1987년 그는 토론토 대학과 캐나다로 이주했는데, 이는 레이건 시대 정치에 대한 환멸과 AI 연구를 위한 군사 자금 지원 거부 때문이었습니다. 그는 스스로를 사회주의자로 정의합니다. 캐나다 고등연구원(CIFAR)은 그 해부터 그를 지원했고, 결국 '기계와 두뇌 학습' 프로그램 리더로 임명했습니다. 인내심 있는 이 비주류 지원은 이 분야의 무게 중심이 캘리포니아가 아닌 토론토로 이동한 큰 이유입니다.

사라지지 않은 아이디어들

1980년대 중반의 두 가지 공헌이 그를 스톡홀름으로 이끌었습니다. 1985년, 그는 데이비드 애클리(David Ackley), 테렌스 세즈노스키(Terrence Sejnowski)와 함께 볼츠만 머신(Boltzmann machine)을 공동 발명했습니다. 이는 통계 물리학의 기법을 학습에 도입한 것으로, 낮은 에너지 상태로 수렴하면서 데이터 속에 숨겨진 구조를 찾아내는 네트워크입니다. 노벨상 위원회는 "인공 신경망을 이용한 기계 학습을 가능하게 한 기초적인 발견과 발명"을 기념하며 이를 직접 언급했습니다. 1986년, 그는 데이비드 럼멜하트(David Rumelhart), 로널드 J. 윌리엄스(Ronald J. Williams)와 함께 역전파(backpropagation)를 유명하게 만든 논문을 공저했습니다. 이는 네트워크의 각 층을 거꾸로 거슬러 올라가 책임을 할당하여 각 연결이 조정 방법을 알게 하는 절차입니다. 다른 이들도 이 아이디어를 제안했지만, 힌튼의 논문은 한 세대를 설득했습니다.

그의 나머지 연구 성과는 이 분야의 역사를 요약한 것과 같습니다. 분산 표현, 시간 지연 신경망, 전문가 혼합, 헬름홀츠 머신, 2008년 t-SNE 시각화 기법, 2017년 캡슐 네트워크, 2022년 포워드-포워드 알고리즘(Forward-Forward algorithm) 등이 그것입니다. 그는 200편 이상의 동료 심사를 거친 논문을 발표했으며, 2012년에는 코세라(Coursera)를 통해 누구나 온라인에서 신경망을 무료로 학습할 수 있게 했습니다.

기계가 보는 법을 배운 해

2012년 입증의 순간이 왔습니다. 대학원생인 알렉스 크리제프스키(Alex Krizhevsky), 일리야 수츠케버(Ilya Sutskever)와 함께 힌튼은 깊은 합성곱 네트워크인 알렉스넷(AlexNet)을 구축했습니다. 이는 이미지넷 챌린지에서 압도적인 차이로 우승하며 논쟁을 끝냈습니다. 컴퓨터 비전 분야는 18개월 만에 신경망 중심으로 재편되었습니다. 세 사람은 DNN리서치를 설립했고, 구글은 2013년 4,400만 달러에 인수했습니다. 힌튼은 이후 10년 동안 토론토와 구글 브레인(Google Brain)을 오가며 시간을 보냈습니다. 2017년에는 벡터 연구소(Vector Institute)를 공동 설립하고 수석 과학 고문이 되었습니다.

그의 연구실은 학문 분야 전반의 인재 배출소 역할을 했습니다. 피터 다얀(Peter Dayan), 막스 웰링(Max Welling), 리처드 제멜(Richard Zemel), 브렌던 프레이(Brendan Frey), 래드포드 닐(Radford Neal), 이 와이 테(Yee Whye Teh), 루슬란 살라쿠디노프(Ruslan Salakhutdinov), 주빈 가라마니(Zoubin Ghahramani), 알렉스 그레이브스(Alex Graves), 일리야 수츠케버, 얀 르쿤(Yann LeCun) 등이 학생이나 박사후 연구원으로 거쳐 갔습니다. 2018년 ACM은 그에게 요슈아 벤지오(Yoshua Bengio), 얀 르쿤과 함께 튜링상(A.M. Turing Award)을 수여했습니다.

대부에서 배교자로

2023년 5월, 힌튼은 고용주에 영향을 미치지 않고 AI의 위험성에 대해 말하기 위해 구글을 퇴사했습니다. 그는 인터뷰에서 자신의 인생 연구를 부분적으로 후회한다고 말했습니다. 그는 범용 AI가 30~50년 후에나 올 것이라고 믿었지만, 2023년 3월에는 20년으로 앞당기고 그 파급력을 산업 혁명에 비유했습니다. 2024년 12월에는 30년 이내에 AI가 인류 멸종을 초래할 확률을 10~20%로 추정했습니다.

그의 구체적인 걱정은 영화적이기보다 기술적입니다. 시스템이 전원 차단에 대한 저항을 포함한 도구적 하위 목표를 획득할 것이라는 점, 이는 의도된 설계가 아니라 다른 모든 목표를 달성하는 데 도움이 되기 때문입니다. 디지털 마인드가 뇌가 할 수 없는 방식으로 학습 내용을 복제할 수 있다는 점, AI가 치명적인 병원체를 만드는 데 필요한 전문 지식을 낮춘다는 점, 노동력 대체가 광범위할 것이라는 점입니다. 그는 규제와 기본소득을 촉구했고, 벤지오, 스튜어트 러셀(Stuart Russell), 로렌스 레식(Lawrence Lessig)과 함께 캘리포니아의 SB 1047 법안을 지지했습니다. 토론토 대학의 명예 교수인 그에게 멜라니 우딘(Melanie Woodin) 학장은 "역사적인 선구자"라고 불렀습니다. 그는 노벨상 상금을 신경다양성 청년을 돕는 자선단체에 기부할 것이라고 말했습니다.

제프리가 천재라고 불리는 이유

그가 보여주는 자질은 계산 속도가 아닙니다. 그는 스스로 1학년 물리학에서 수학이 자신을 이겼다고 말합니다. 그것은 30년 동안 공개적으로 틀렸다는 것을 감수하는 희귀한 인내심입니다. 힌튼은 이 분야의 컨센서스가 작동하지 않을 것이라고 했던 시기에도 연결주의 학습을 계속 연구했으며, 직감이 아닌 논증을 따랐습니다. 뇌는 경험으로부터 배우는 단순 단위의 네트워크이므로, 같은 방식으로 구축된 기계도 할 수 있어야 한다는 것입니다. 기술적 천재성은 그 직관을 작동 가능하게 만드는 구체적인 수학, 즉 통계 물리학에서 빌려온 에너지 함수와 층을 거꾸로 거슬러 올라가는 책임 할당을 찾아내는 데 있었습니다.

기관들은 그 단어를 자유롭게 사용했습니다. 튜링상은 컴퓨팅 분야 최고의 영예입니다. 물리학자가 아닌 사람에게 돌아간 노벨 물리학상은 그 아이디어의 깊이에 대한 판단입니다. 정직한 반론도 상당합니다. 역전파에는 그가 창시하지 않은 선구자들이 있었고, 힌튼도 이를 인정했습니다. 볼츠만 머신은 오늘날 실용적 중요성보다는 역사적 중요성이 큽니다. 그가 강하게 밀어붙인 캡슐 네트워크는 대체하려던 구조를 밀어내지 못했습니다. 알렉스넷은 크리제프스키의 엔지니어링과 힌튼이 만들지 않은 그래픽 하드웨어에 크게 의존했습니다. 가장 방어 가능한 주장은 그가 딥러닝을 혼자 해결했다는 것이 아니라, 그가 창립적 확신과 여러 수학적 도구, 그리고 나머지를 대부분 해낸 학생들을 제공했다는 것입니다.

유산

힌튼의 별명인 "AI의 대부"는 그를 넘어섰습니다. 이제는 그가 결코 방해하려 하지 않았던 경제를 재편하는 기술에 붙어 있습니다. 그는 왕립 학회 회원(Fellow of the Royal Society), 캐나다 훈장 동료(Companion of the Order of Canada)이며, 럼멜하트 상(Rumelhart Prize), 아스투리아스 공주상(Princess of Asturias Award), 엘리자베스 여왕 공학상(Queen Elizabeth Prize for Engineering)을 수상했습니다. 또한 그는 이 분야의 가장 신뢰받는 내부 비판자이기도 한데, 이는 더 드문 특징입니다. 78세의 나이에 자신이 평생 가능하다고 입증해 온 것이 이제는 억제되어야 할 수도 있다고 주장하는 사람입니다.