카렌 울렌벡: 기하학을 재건한 해석학자

와이어 프레임에 걸쳐진 비눗방울은 도달할 수 있는 가장 작은 표면적을 갖는 형태가 됩니다. 카렌 울렌벡(Karen Uhlenbeck)은 그 과정이 제대로 이루어지지 않을 때, 즉 에너지 최소화 과정이 고립된 지점에서 무너져 수학자들이 이제 '거품(bubble)'이라 부르는 형태로 집중될 때 어떤 일이 벌어지는지를 연구하며 경력을 쌓았습니다. 조나단 색스(Jonathan Sacks)와 함께 작성하여 이러한 붕괴 현상을 기술한 그녀의 논문은 해당 학문을 둘로 갈라놓았습니다. 기하학자 프랑수아 라부리(François Labourie)는 "색스-울렌벡 논문 이전과 이후가 있다"고 말했습니다. 2019년, 그녀는 여성 최초로 아벨상(Abel Prize)을 수상했습니다.

클리블랜드와 도서관 대출증

카렌 케스쿨라 울렌벡(Karen Keskulla Uhlenbeck)은 1942년 8월 24일 오하이오주 클리블랜드에서 엔지니어인 아놀드 케스쿨라(Arnold Keskulla)와 예술가인 캐롤린 윈델러 케스쿨라(Carolyn Windeler Keskulla) 사이의 네 자녀 중 첫째로 태어났습니다. 그녀는 시골에서 자라며 독서에 몰두했습니다. "어린 시절 저는 책을 많이 읽었고, 무엇이든 읽었습니다. 도서관에 가서 밤새도록 책을 읽곤 했죠." 12살 무렵, 아버지가 주신 프레드 호일(Fred Hoyle)의 천체물리학 책과 조지 가모프(George Gamow)의 『1, 2, 3... 무한대(One, Two, Three... Infinity)』는 그녀에게 무한대에도 서로 다른 크기가 존재함을 알려주며 그녀를 사로잡았습니다.

그녀는 미시간 대학교(University of Michigan)에 진학해 물리학을 공부하려 했으나 1964년 수학 학사 학위를 받았습니다. 이후 1966년 브랜다이스 대학교(Brandeis University)에서 석사 학위를 받았고, 1968년 리처드 팔레(Richard Palais)의 지도 아래 박사 학위를 취득했습니다.

열리지 않던 문

그 후 수학과는 아무런 관련이 없는 이유로 그녀의 경력은 정체되었습니다. 매사추세츠 공과대학교(MIT)에서 박사 후 연구원으로 1년을 보내고 버클리(Berkeley)에서 2년간 강의했음에도, 울렌벡은 정규직 일자리를 얻을 수 없었습니다. 그녀는 그 이유에 대해 솔직하게 말했습니다. "저는... 여성은 채용하지 않으며, 여성은 집으로 돌아가 아이를 키워야 한다는 말을 들었습니다." 그녀의 남편을 채용하려던 MIT, 스탠퍼드(Stanford), 프린스턴(Princeton) 등의 대학들은 그녀의 채용을 거부하며, 이를 정당화하기 위해 반족벌주의 규정을 절차적 구실로 내세웠습니다.

1971년 그녀는 일리노이 대학교 어배너-섐페인(University of Illinois at Urbana-Champaign)에 자리를 잡았고, 남편이 그녀의 경력을 따라오게 되었습니다. 그곳에서 그녀는 일리노이 대학교 시카고(University of Illinois at Chicago)로 옮겨 정교수로 승진했습니다. 1983년 맥아더 펠로우십(MacArthur Fellowship)을 계기로 시카고 대학교(University of Chicago)로 이동했으며, 1988년부터는 텍사스 대학교 오스틴(University of Texas at Austin)에서 시드 W. 리처드슨 재단 석좌교수(Sid W. Richardson Foundation Regents Chair)직을 맡고 있습니다.

거품 현상

색스-울렌벡의 연구는 조화 사상(harmonic maps), 즉 곡면에서 곡률이 있는 공간으로의 사상에 대한 에너지 범함수가 어떻게 변하는지를 다루었습니다. 두 사람은 에너지 최소화 시퀀스가 거의 모든 곳에서 조화 사상으로 수렴하지만, 고립된 지점에서는 해석이 실패하고 구 형태의 에너지가 분리되어 '거품'이 발생함을 증명했습니다. 이 통찰의 핵심은 방법의 오류가 아니라 그 오류가 정밀하고 분류 가능한 구조를 가지고 있다는 점이었습니다. 특이점은 더 이상 방해 요소가 아니라 연구 대상이 되었습니다. 거품 현상은 이제 기하해석학에서 표준적인 도구입니다.

게이지 이론과 도널드슨 혁명

1980년대 초, 울렌벡은 동일한 해석학적 본능을 게이지 장 물리학의 기초가 되는 수학인 양-밀스 방정식(Yang–Mills equations)에 적용했습니다. 그녀는 문제에 최적화된 새로운 좌표계를 도입하고, 유계 곡률을 가진 접속에 대한 콤팩트성 정리를 증명했으며, 4차원 공간에서 잘못된 지점을 메울 수 있음을 보여주는 가제거 특이점(removable-singularity) 결과를 확립했습니다.

이는 학계 전체가 기다려온 기계와 같았습니다. 그녀의 도구는 인스탄톤(instantons)을 기하학적으로 활용할 수 있게 만들었으며, 이는 사이먼 도널드슨(Simon Donaldson)이 필즈상(Fields Medal)을 수상하게 된 연구의 토대가 되었습니다. 도널드슨은 울렌벡의 결과가 "이 분야의 후속 연구 대부분의 기초가 된다"고 평가합니다.

가적분계와 그녀만의 영역

나이젤 히친(Nigel Hitchin), 텅추리안(Chuu-Lian Terng)과 함께 울렌벡은 곡면에서 동차 공간으로의 조화 사상이 매개변수군을 이룬다는 것을 보여주며, 이들을 무한차원 가적분계(integrable systems)와 연결했습니다. 이는 기하학과 솔리톤 이론의 대수적 기계 장치 사이를 잇는 교량이었습니다.

종합하면, 이 연구는 현대 기하해석학의 창시를 의미합니다. 이는 강력한 편미분 방정식과 위상수학 및 기하학을 의도적으로 융합한 것입니다. 이를 수행하는 과정에 대한 울렌벡의 묘사는 특유의 담백함이 묻어납니다. 마치 "무슨 일이 일어날지 모르는 갑판에서 뛰어내리는 것"과 같다고 말이죠.

공간 만들기

그녀는 자신의 경력을 개인적인 문제로만 여기지 않았습니다. 울렌벡은 프린스턴 고등연구소(Institute for Advanced Study)에서 '수학하는 여성들(Women and Mathematics)' 프로그램을 공동 창설했고 파크 시티 수학 연구소(Park City Mathematics Institute) 설립을 도왔습니다. 그녀의 여성 수학자 멘토링은 전설적으로 일컬어집니다. 그녀는 학계가 진보에 대해 자화자찬하는 것을 거부해 왔습니다. 2007년 미국수학회(AMS) 스틸상(Steele Prize)을 수상하며 그녀는 이렇게 말했습니다. "저는 수학을 하거나 지도적 위치에 있는 여성의 수에 여전히 실망하고 있습니다. 제 생각에 이는 주로 수학계의 문화와 외부로부터의 가혹한 사회적 압력 때문입니다."

훈장은 계속 이어졌습니다. 1983년 맥아더 펠로우십, 1985년 미국 예술과학 아카데미(American Academy of Arts and Sciences) 회원, 같은 해 AMS 콜로키움 강연, 1986년 미국 국립과학원(National Academy of Sciences) 회원, 1988년 노터 강연(Noether Lecture), 1990년 국제수학자대회(International Congress of Mathematicians) 총회 연설(여성으로서는 두 번째), 2000년 '전역적 기하학에 대한 선구적 공헌'을 인정받은 국가 과학 메달(National Medal of Science), 2007년 스틸상, 2019년 아벨상, 2020년 AWM 펠로우십, 2023년 영국 왕립학회(Royal Society) 회원 선정 등이 그것입니다.

왜 카렌을 천재라 부르는가

그녀의 능력은 특정한 종류의 담력입니다. 울렌벡의 본능은 방법론이 붕괴되는 지점을 직접 정면 돌파하는 것입니다. 대부분의 수학자는 특이점을 피해 갑니다. 그녀는 해석학이 실패하는 지점을 오히려 기하학이 실제로 존재하는 곳으로 보았고, 이를 기술하기 위한 기술적 장치를 구축했습니다. 그렇기에 그녀의 결과물은 인프라처럼 작동합니다. 거품 현상, 콤팩트성, 가제거 특이점 등은 사람들이 인용하는 정리라기보다 사람들이 의식하지 않고 사용하는 도구에 가깝습니다.

이렇게 말하는 사람들은 홍보 담당자가 아닙니다. 아벨상 선정위원회는 그녀에게 "기하학적 편미분 방정식, 게이지 이론, 가적분계 분야의 선구적 업적"과 해석학, 기하학, 수리물리학에 대한 "근본적인 영향"을 인정했으며, 노르웨이 학술원은 그녀의 연구가 지난 40년간 수학 분야에서 가장 극적인 진보를 이끌어냈다고 평가했습니다. 도널드슨은 그녀의 결과가 분야의 기반을 받치고 있다고 말합니다. 앨리스 챙(Sun-Yung Alice Chang)은 "그녀의 영향력은 수학의 여러 분과를 가로지른다"고 언급합니다. 라부리는 그녀의 논문 중 하나를 기준으로 역사를 구분합니다.

정직한 반론은 두 가지입니다. 첫째, 그녀의 대표적인 업적은 가능성을 여는 역할을 했습니다. 그녀가 제공한 해석학은 다른 사람들의 주요 정리를 가능하게 했고, 인스탄톤 기하학에 대한 필즈상은 도널드슨에게 돌아갔습니다. 이것이 그녀를 더 중요한 인물로 만드는지 덜 중요한 인물로 만드는지는 정해진 결론이 없는 논쟁입니다. 둘째, 인정받는 시기가 늦었기에 이제 그녀가 '최초'라는 사실과 뗄 수 없는 관계가 되었습니다. 이는 뛰어난 해석학자를 하나의 상징으로 만들고 수학 자체는 조용히 생략할 위험이 있는 프레임입니다. 울렌벡 본인은 결코 예지력을 주장하지 않도록 주의해 왔습니다. 자신의 연구에 대한 그녀의 설명은, 아래에 무엇이 있는지 모른 채 갑판에서 뛰어내렸다는 것입니다.

유산

기하해석학이 하나의 일관된 학문으로 존재하는 이유는 울렌벡이 가장 어려운 해석학적 기법들이 기하학 내부에 속한다고 주장했기 때문입니다. 1970년대 후반 그녀와 색스가 발견한 거품은 이제 수학자들이 극한과 실패를 생각하는 표준적인 방식의 일부가 되었으며, 그녀의 프린스턴 프로그램을 통해 분야에 들어온 여성들은 인용하기 어렵지만 그에 못지않게 중요한 또 하나의 학문적 주류를 형성하고 있습니다.