더들리 E. 리틀우드: 그가 증명할 수 없었던 규칙

1934년, 웨일스의 작은 대학에서 두 명의 수학자가 특정 대수적 객체가 어떻게 곱해지는지를 규정하는 조합론적 법칙을 발표했습니다. 그들은 이를 정리로 명시했습니다. 그들은 몇 가지 간단한 특수 사례에 대해서만 이를 증명했으며, 설명하기 위해 제시한 예시에는 오류가 포함되어 있었습니다. 그럼에도 불구하고 이 규칙은 옳았습니다. 학계가 이를 증명하는 데는 40년이 걸렸으며, 그 무렵에는 현대 대수학에서 가장 널리 사용되는 결과 중 하나가 되었습니다. 표현론 학자 고든 제임스 (Gordon James)의 표현을 빌리자면, 리틀우드-리처드슨 규칙은 “인류를 달에 보내는 데 일조했지만, 그들이 달에 도착하고 나서야 증명되었다”고 합니다.

토트넘에서 트리니티까지

더들리 어니스트 리틀우드 (Dudley Ernest Littlewood)는 1903년 9월 7일 런던에서 태어났으며, 아다 파이퍼 (Ada Piper)와 변호사 사무원 해리 브램리 리틀우드 (Harry Bramley Littlewood) 사이의 외동아들이었습니다. 수학적 배경이나 재산은 없었으며, 그는 오로지 시험을 통해 자신의 길을 개척했습니다. 미들섹스의 토트넘 카운티 학교에서 그는 주 장학금과 케임브리지 트리니티 칼리지 입학 장학금을 모두 받았습니다.

트리니티에서 그의 학부 지도교수는 저명한 해석학자이자 하디 (Hardy)의 협력자였던 존 엔더슨 리틀우드 (John Edensor Littlewood)였는데, 성만 같을 뿐 친척 관계는 아니었으며, 이 우연은 이후 수많은 참고 문헌에서 혼란을 야기했습니다. 그는 1925년 수학 트라이포스에서 랭글러 (wrangler)로 졸업했으며, 홀 (Hall) 및 호지 (Hodge)와 동기였습니다. 당시 양차 대전 사이의 학계 상황 속에서 그는 곧바로 자리를 잡지 못하고 학교 교사로 일했습니다. 1928년 스완지 대학 칼리지에서 임시 파트타임 강사직을 맡았고, 이후 던디의 퀸즈 칼리지에서 잠시 근무했습니다. 1930년 뮤리엘 도리스 다이슨 (Muriel Doris Dyson)과 결혼하여 1935년에 아들을 얻었습니다.

스완지와 리처드슨

스완지는 그의 수학적 삶이 실질적으로 시작된 곳이며, 이는 한 동료 덕분이었습니다. 그곳의 교수였던 아치볼드 리드 리처드슨 (Archibald Read Richardson)은 리틀우드에게 대수학을 소개해주었는데, 이는 그가 이전에 다루지 않았던 분야였습니다. 그는 1930년 스완지에 조교수로 돌아와 1934년 강사가 되었으며, 1947년까지 머물렀습니다. 그의 초기 논문들은 사원수 대수와 불변량 이론을 다루었는데, 이는 나중에 올 업적을 예고하지 않는 정통적인 연구였습니다.

그 뒤를 이은 것이 1934년 리처드슨과 함께 쓴 논문 “군 표현과 대수 (Group characters and algebras)”입니다. 이 논문은 행렬의 임마넌트 (immanant)—행렬식과 영구식 사이의 일반화—를 도입했으며, 현재 일반적으로 슈어 함수 (Schur functions)라고 불리는 S-함수를 다루었는데, 이는 대칭군과 일반 선형군의 표현을 인코딩합니다. 이 논문은 자연스러운 질문을 던졌습니다: 두 개의 슈어 함수를 곱하면 어떻게 되는가? 그들은 곱이 슈어 함수의 합으로 분해되며, 그 계수는 특정 타블로—엄격한 규칙에 따라 숫자가 채워진 격자 모양의 조합론적 배열—의 개수를 나타낸다고 제안했습니다.

규칙이 중요한 이유

그 단 하나의 진술은 여러 분야가 만나는 지점에 놓여 있음이 밝혀졌습니다. 리틀우드-리처드슨 계수는 유한 차원 표현의 텐서 곱이 분해될 때와 대칭군의 표현이 유도될 때의 중복도를 제공합니다. 이것들은 슈어 기저에서의 대칭 함수 환의 구조 상수입니다. 대수 기하학에서 이것들은 슈베르트 변종 (Schubert varieties)이 어떻게 만나는지를 세는 그라스만 다양체 위의 교차수로 다시 나타나는데, 이는 1934년 당시 아무도 예상하지 못한 연결이었습니다. 리틀우드 본인은 표현론의 응용을 양자 역학으로 확장했습니다.

그러나 증명은 누락되었습니다. 길버트 드 보레가르 로빈슨 (Gilbert de Beauregard Robinson)이 1938년에 이를 완성했다고 주장했으나, 그의 설명은 너무 모호하여 수십 년 동안 허점이 발견되지 않았습니다. 이언 맥도널드 (Ian Macdonald)는 1995년까지도 그 일부를 채워 넣고 있었습니다. 현대적 기준을 만족하는 최초의 증명은 1974년 글란프루드 P. 토마스 (Glânffrwd P. Thomas)와 1977년 마르셀-폴 쉬첸베르거 (Marcel-Paul Schützenberger)에 의해 이루어졌으며, 이는 셴스테드 (Schensted), 쉬첸베르거, 도널드 커누스 (Donald Knuth)가 개발한 로빈슨-셴스테드 대응 (Robinson–Schensted correspondence)의 조합론적 기계 장치 위에 세워졌습니다. 주장과 증명 사이에는 약 40년의 시간이 흘렀습니다.

저서와 뱅고어

리틀우드는 자신의 연구를 바탕으로 그를 가장 널리 알린 저서 《군 표현과 군의 행렬 표현 이론 (The Theory of Group Characters and Matrix Representations of Groups)》을 1940년에 출간했고 1950년 제2판을 냈는데, 이는 한 세대 동안 영어권에서 해당 주제를 배우는 표준 교재였습니다. 이어 1949년에는 여러 번 개정된 일반론적 해설서 《수학의 해골 열쇠 (The Skeleton Key of Mathematics)》를, 1950년에는 1961년에 개정된 《대학 대수학 (A University Algebra)》을 출간했습니다.

그는 1947년부터 1948년까지 케임브리지 대학 강사로 지냈고, 1948년 노스웨일스 대학 칼리지 뱅고어의 수학과 교수로 부임하여 1970년 은퇴할 때까지 22년간 재직했습니다. 동료들은 그를 항상 친절한 미소를 짓는 수줍고 내성적인 사람으로 기억합니다. 그는 공상과학 소설을 읽었으며 철학과 종교가 수학보다 더 탐구할 가치가 있는 주제라고 여겼는데, 이는 수학과 교수치고는 흔치 않은 고백이었습니다.

더들리가 천재라 불리는 이유

이 단어는 구체적이고 좁은 능력에 적용됩니다: 그는 대수적 기제가 증명되기도 전에 그 형태를 꿰뚫어 볼 수 있었습니다. 그의 제자 J. A. 그린 (J. A. Green)은 이를 정확히 묘사했습니다—"리틀우드의 수학적 힘은 특정 대수적 과정이 어떻게 작동하는지에 대한 비범한 통찰력에 있었다." 동료들은 그가 형식 수학에 대한 강한 직관적 파악력을 가졌고 엄밀한 유도보다 유용한 공식을 선호했으며, 프로베니우스 (Frobenius), 슈어 (Schur), 바일 (Weyl)의 방법을 재생산하기보다 자신만의 언어로 재구성했다고 관찰했습니다. 1934년의 규칙이 그 대표적인 사례입니다. 리틀우드와 리처드슨은 아무도 완전히 이해하지 못했던 대상들에 대해 올바른 조합론적 법칙을 찾아냈고, 직관이 믿을 수 없기로 유명한 분야에서 정답을 맞혔습니다. 반면 그 후 40년 동안 증명을 시도했던 몇몇 유능한 수학자들은 틀렸습니다.

반론은 단순한 현학적 지적이 아니라 실재하는 것입니다. 그들은 쉬운 특수 사례만 증명한 채로 그 규칙을 정리로 발표했고, 제시한 예시조차 잘못 계산되었습니다. 심사위원이 더 엄격했다면 그 결과는 추측으로 나타났을 것이며, 그것이 사실이었습니다. 수학자의 본분은 증명이며, 그 기준으로 보면 리틀우드의 가장 유명한 기여는 40년간 불완전한 상태였고 그가 갖지 못했던 도구를 사용한 다른 사람들에 의해 마무리되었습니다. 그의 더 넓은 연구 성과—세 권의 책과 불변량, 사원수 대수, 군 표현에 관한 논문들—는 획기적이라기보다는 견고하고 유용하며, 그는 스완지와 뱅고어라는 학계 중심지 밖에서 경력을 보냈습니다. 정직한 평가는 그가 탁월한 수학적 본능을 가졌으나 이를 뒷받침할 엄밀함은 그에 미치지 못했다는 것입니다. 학계는 90년간 그의 본능에서 혜택을 얻고 그 엄밀함을 보완해 왔습니다.

유산

그는 1970년 은퇴했고 1979년 10월 6일, 넘어져 다리가 부러진 후 76번째 생일을 맞이한 직후 란디드노에서 사망했습니다. 그는 란로스 (Llanrhos)에 묻혔으며, 아내 뮤리엘은 그보다 10년을 더 살았습니다. 그의 이름은 오늘날 그에 대해 아는 것이 아무것도 없는 사람들에 의해서도 매일 언급되고 있는데, 대칭 함수, 고전 군의 표현론, 슈베르트 계산법의 현대적 연구를 뒷받침하는 규칙에 그의 이름이 붙어 있기 때문입니다. 자신의 이름을 딴 정리를 가진 수학자는 거의 없습니다. 증명되기도 전에 유명해진 정리를 가진 수학자는 더더욱 드뭅니다.