마크 라켄비: 매듭을 푼 사람
"두 매듭이 같은지 판별하는 체계적인 방법은 아직 알려져 있지 않다." 1954년 앨런 튜링 (Alan Turing)이 한 말로, 수학에서 가장 해결하기 어려운 구체적인 난제 중 하나를 지적한 것입니다. 즉, 끝이 이어진 끈 뭉치가 주어졌을 때, 그것이 실제로 매듭인지 판단하는 문제입니다. 막스 덴 (Max Dehn)은 1910년에 이 문제를 제기했습니다. 볼프강 하켄 (Wolfgang Haken)은 1961년에 첫 번째 알고리즘을 내놓았지만, 복잡한 문제에서는 속도가 지나치게 느렸습니다. 2021년 2월 2일, 캘리포니아 대학교 데이비스에서 마크 라켄비는 이 문제가 n의 c log n 거듭제곱 단계, 즉 준다항식 시간 내에 해결될 수 있다고 발표했습니다. 이는 컴퓨터 과학자들이 진정으로 다룰 수 있는 문제라고 여기는 효율성에 근접한 수치입니다. 옥스퍼드 대학교의 수학자들은 이를 고르디우스의 매듭을 푸는 위업이라고 평했습니다.
케임브리지와 리코리시 학파
라켄비는 1990년 케임브리지 대학교에서 수학을 공부하기 시작했고, 1997년 W. B. R. 리코리시 (W. B. R. Lickorish) 지도하에 "덴 수술과 매듭 풀기 연산 (Dehn Surgery and Unknotting Operations)"이라는 논문으로 박사 학위를 받았습니다. 리코리시는 20세기 매듭 이론의 중심 인물 중 한 명이며, 논문의 주제인 덴 수술과 매듭 풀기는 25년이 지난 후에도 라켄비의 핵심 연구 주제로 남아 있습니다. 자신의 연구 영역을 일찍 선택하고 그 안에서 끊임없이 새로운 것을 발견하는 수학자는 드뭅니다.
그는 캘리포니아 대학교 버클리에서 밀러 연구원 (Miller Research Fellowship)을 지냈고, 케임브리지로 돌아와 연구원 생활을 한 뒤 1999년 옥스퍼드 대학교 세인트 캐서린 칼리지의 강사이자 연구원으로 자리를 옮겼습니다. 2006년에는 교수로 승진했습니다. 그의 연구는 매듭 이론, 저차원 위상수학, 군론을 아우르는데, 이 세 분야는 3차원 공간에서 각기 다른 각도로 바라본 사실상 동일한 주제임이 드러났습니다.
구멍 메우기
덴 수술은 3차원 위상수학의 중심에 있는 연산입니다. 매듭 주변의 속이 찬 튜브를 잘라내고, 다른 방식으로 다시 붙이는 것입니다. 거의 모든 3차원 다양체는 이런 방식으로 생성될 수 있으므로, 이 연산을 이해하는 것은 곧 대상을 이해하는 것과 같습니다.
중요한 질문은 결과물이 언제 쌍곡성을 유지하느냐 하는 것입니다. 쌍곡 기하학은 3차원 다양체를 견고하고 분석 가능하게 만드는 구조이며, 이것이 없으면 황야가 시작됩니다. 2π 정리는 수술이 쌍곡성을 보존함을 보장하는 기하학적 기준을 제시합니다. 라켄비는 이 정리를 강화한 버전을 증명했습니다. 이는 그에게 전형적인 결과입니다. 새로운 풍경을 발견하는 것이 아니라 기존의 경계선을 정밀하게 다듬어, 훨씬 더 많은 영역이 유용한 쪽으로 포함되게 만드는 것입니다.
교대 매듭과 부피
두 번째 줄기는 매듭의 그림과 기하학을 연결합니다. 매듭을 종이 위에 다이어그램으로 그리면 조합론(교차점, 호, 영역)이 됩니다. 매듭 주변의 공간을 고려하면 쌍곡 부피가 결합된 기하학이 됩니다. 이들은 완전히 다른 종류의 정보이며, 이를 연관 짓는 것은 이 분야의 심오한 프로젝트 중 하나입니다.
라켄비는 교대 매듭(매듭을 따라갈 때 교차점이 위, 아래, 위, 아래로 교대하는 매듭)에 대한 매듭 보조 공간의 쌍곡 부피에 대한 경계를 제시하여, 기하학적 불변량을 도면에서 실제로 셀 수 있는 것과 연결했습니다. 이러한 결과는 매듭 기하학을 단순히 생각하는 대상이 아니라 계산 가능한 대상으로 만듭니다.
리데마이스터 이동의 계산
매듭의 모든 다이어그램은 세 가지 기본 조작인 리데마이스터 이동(Reidemeister moves)을 통해 같은 매듭의 다른 모든 다이어그램으로 변환될 수 있습니다. 이는 1920년대부터 알려진 사실이지만, 자체적으로는 쓸모가 없었습니다. 얼마나 많은 이동이 필요한지 알려주는 것이 없었으며, 시퀀스는 단순화되기 전에 양 끝점보다 훨씬 더 복잡한 다이어그램을 거쳐야 할 수도 있기 때문입니다. 바로 이것이 매듭 풀기가 어려운 이유입니다. 흔히 나아지기 전에 더 엉키게 만들어야 하기 때문입니다.
라켄비는 매듭이 풀린 상태(unknot)의 다이어그램이 교차점 수의 다항식 범위 내에 있는 리데마이스터 이동 횟수로 풀릴 수 있음을 보였습니다. 비관론은 잘못된 것이었습니다. 평범한 원으로 가는 적당히 짧은 경로는 항상 존재하며, 비록 그것을 찾는 것은 별개의 문제일지라도 말입니다.
준다항식 시간
2021년으로 돌아옵니다. 매듭 인식 문제는 하켄 이후 위상수학 및 기하학을 활용한 많은 알고리즘이 축적되었으나, 매듭이 복잡해지면 거의 모두가 치명적으로 느려졌습니다. 다항식 시간 알고리즘이 존재하는지 여부는 위상수학과 컴퓨터 과학의 경계에 있는 유명한 미해결 질문 중 하나가 되었습니다. 윌리엄 서스턴 (William Thurston)은 2011년에 이를 분명히 말했습니다. "많은 사람이 이 질문에 대해 생각했지만, 해결하기 매우 어려운 질문이었습니다."
라켄비의 n^(c log n) 경계가 이 문제를 완전히 해결한 것은 아닙니다. 준다항식은 다항식보다 느립니다. 그러나 준다항식과 이전의 모든 방법 사이의 격차는 엄청나며, 준다항식과 다항식 사이의 격차는 실용적이고 개념적인 관점에서 작습니다. 튜링이 길들여지지 않은 문제로 분류했던 것이 이제 본질적으로 길들여졌습니다.
마크가 천재라 불리는 이유
그가 보여준 자질은 속도나 폭이 아닙니다. 인내심 있는 깊이입니다. 25년 동안 덴 수술, 매듭 풀기, 매듭 보조 공간의 기하학이라는 동일한 문제군을 붙잡고 기술을 축적하여, 여러 세대를 거쳐 저항하던 문제를 해결 가능한 상태로 만들었습니다. 매듭 풀기 결과는 가장 명확한 증거입니다. 영리한 요령이 아니라 특정 기계를 구축하는 데 경력을 바치고, 다른 사람들이 보지 못하는 곳에서 어떤 위상적 및 기하학적 도구의 조합이 작용할지 볼 수 있었던 사람에게 돌아갔기 때문입니다.
동료들로부터의 인정은 갑작스러운 것이 아니라 일관적이었습니다. 2003년 런던 수학회의 화이트헤드 상, 2006년 수학 및 통계학 부문의 필립 레버흄 상, 2010년 국제 수학자 대회 초청 강연 등, 이 분야에서 작업의 중요성을 알리는 가장 확실한 신호들입니다. 2021년 발표는 옥스퍼드 측에서 "위업"이라는 단어를 사용할 정도로 강력한 반응을 이끌어냈습니다.
반대 사례도 언급되어야 합니다. 라켄비를 천재라고 부르는 기록은 없으며, 그가 속한 수학계는 그 단어를 아끼는 편입니다. 그의 연구는 하켄, 서스턴, 리코리시와 전체 정규 곡면 전통을 직접적으로 계승합니다. 준다항식 알고리즘은 기존 프레임워크 내에서의 훌륭한 개선이지 새로운 프레임워크는 아닙니다. 또한 다항식도 아니므로 기술적으로 핵심 질문은 여전히 열려 있습니다. 그리고 저차원 위상수학은 그 아름다움에도 불구하고 전문 분야입니다. 그의 결과는 위상수학자들 사이에서는 유명하지만 외부에서는 거의 알려지지 않았습니다. 논란의 여지가 없는 것은 그가 한 세기 동안 풀리지 않던 문제를 해결했으며, 누구보다 자신의 분야를 철저히 앎으로써 그것을 해냈다는 점입니다.
유산
라켄비가 네 가지 연구 줄기 전반에 걸쳐 한 일은 매듭 이론을 효과적으로 만든 것입니다. 교차점 개수로 부피를 제한하고, 이동 횟수로 풀기를 제한하며, 단계 수로 인식을 제한하는 등, 각 경우에 생각만 할 수 있었던 대상이 계산 가능한 대상으로 바뀌었습니다. 이러한 전환이 아름다운 이론을 사용 가능한 이론으로 바꾸는 것이며, 2021년의 결과가 위상수학을 넘어 이론 컴퓨터 과학으로 확장된 이유입니다. 덴은 1910년에 질문을 던졌습니다. 그로부터 111년, 그리고 다른 어떤 것에도 집중하기를 거부한 옥스퍼드의 한 교수가 필요했습니다.
