제임스 조지프 실베스터: 행렬(Matrix)이라는 이름을 붙인 수학자

1837년, 22세의 한 청년이 영국에서 가장 어려운 시험 중 하나인 케임브리지 대학교 수학 우등 시험(mathematical tripos)에서 전체 2위를 차지하고도 학위를 받지 못했습니다. 제임스 조지프 실베스터(James Joseph Sylvester)는 유대인이었기 때문에, 성적과 관계없이 케임브리지의 종교적 시험 규정으로 인해 졸업이나 연구원 자격 취득이 금지되었기 때문입니다. 그가 수학계로부터 온전한 인정을 받기까지는 40년이 넘는 세월과 여러 번의 직업 변화, 그리고 대서양을 건너는 여정이 필요했습니다.

거부당한 천재

실베스터는 1814년 9월 3일 런던의 유대인 상인 가정에서 태어났습니다. 그는 일찍부터 수학적 재능을 보여 14세의 나이에 런던 대학교(University College London)에 입학했습니다. 이곳은 종교적 차별이 없었으며 그를 받아준 몇 안 되는 영국 기관 중 하나였습니다. 이후 케임브리지 대학교에 진학하여 1837년 우등 시험에서 2위를 차지했으나, 성공회 교리를 확인해야 하는 영국의 종교적 시험 규정 때문에 학위나 학문적 직위를 얻지 못했습니다. 그는 결국 더블린 트리니티 칼리지(Trinity College, Dublin)에서 학위를 받았으며, 25세에 프레넬(Fresnel)의 광학 이론과 유체 및 강체의 운동에 관한 논문으로 영국 왕립학회(Royal Society) 회원으로 선출되었습니다. 이는 케임브리지 대학교가 그를 인정하기 훨씬 전부터 영국 최고의 과학 기관이 그를 인정한 사례였습니다.

정착하지 못한 경력

실베스터의 초기 경력은 실패의 연속처럼 보입니다. 1838년 런던 대학교 자연철학 교수직을 맡았고, 1841년에는 버지니아 대학교 수학 교수가 되었으나 학생과의 심각한 갈등으로 1년도 채 되지 않아 사임했습니다. 영국으로 돌아온 그는 유대인 수학자로서 적절한 학문적 자리를 찾지 못해 약 10년간 런던 보험 회사의 보험계리사로 일하며 개인 과외를 했습니다(그의 학생 중에는 플로렌스 나이팅게일도 있었습니다). 이후 이너 템플(Inner Temple)에서 법학을 공부하여 1850년 변호사 자격을 얻었습니다. 법률가로 활동하던 시절, 그는 당시 역시 변호사로 일하던 수학자 아서 케일리(Arthur Cayley)를 만났고, 두 사람은 그들의 명성을 정의하게 될 협업을 시작했습니다.

불변량 이론의 발명

실베스터는 케일리와 함께 불변량 이론(invariant theory)이라 불리는 분야를 공동 창시했습니다. 이는 회전이나 변수 치환과 같은 변환 하에서도 변하지 않는 방정식과 형식의 대수적 성질을 연구하는 학문입니다. 이 분야는 19세기 대수학의 핵심 과제가 되었으며, 실베스터는 이를 정수론, 분할 이론, 타원 함수 연구로 확장하여 경력 동안 수백 편의 논문을 발표했습니다. 그는 수학적 어휘에 대해 남다른 자부심을 가졌으며, 오늘날 수학자들이 무심코 사용하는 '행렬(matrix)', 현대 조합론적 의미의 '그래프(graph)', '판별식(discriminant)', '토션트(totient)' 등의 용어는 모두 실베스터에게서 유래했습니다. 이는 그 어떤 수학자도 쉽게 따라올 수 없는 언어적 흔적입니다.

울위치 시절과 강제 은퇴

1855년부터 1870년까지 실베스터는 울위치(Woolwich)의 왕립 군사 학교에서 교수직을 맡아, 비교적 안정적인 환경에서 불변량 이론과 분할 이론 연구를 심화했습니다. 그러나 1870년, 울위치의 강제 정년 규정에 따라 은퇴하게 되었습니다. 이는 전성기를 누리던 수학자에게 두 번째로 닫힌 학문의 문이었으며, 이 결정으로 인해 그는 50대 중반에 잠시 학계 활동을 중단해야 했습니다.

볼티모어에서의 재탄생

실베스터 경력의 예상치 못한 제3막은 1875년 존스 홉킨스 대학교(Johns Hopkins University)의 초대 총장 대니얼 코이트 길먼(Daniel Coit Gilman)이 그를 초대 수학 교수로 영입하면서 시작되었습니다. 1876년 5월, 61세의 나이로 볼티모어에 도착한 실베스터는 당시 교수진 중 가장 연장자이자 최고의 업적을 가진 인물로서, 미국 고등교육계에 생소했던 연구 중심 대학 모델을 도입했습니다. 1878년 그는 미국 최초의 지속적인 수학 연구 저널인 미국 수학 저널(American Journal of Mathematics)을 창간했으며, 미국 대학에 대학원 수준의 수학 교육을 도입하는 데 크게 기여한 것으로 평가받습니다. 또한 당시 여성이 배제되던 시절, 재능 있는 대학원생 크리스틴 래드(Christine Ladd)가 존스 홉킨스 박사 과정에 입학하도록 지원했습니다. 그는 7년 후인 1883년 영국 옥스퍼드 대학교의 사빌 기하학 교수직(Savilian Chair of Geometry)을 맡기 위해 떠났지만, 동료들은 그 7년이 미국 수학의 기틀을 마련했다고 평가합니다.

영예와 시(詩)를 통한 제2의 삶

20대 시절 그를 배척했던 기득권층이 그를 받아들이자 실베스터에게 영예가 뒤따랐습니다. 1861년 왕립 메달, 1866~1868년 런던 수학 협회 회장직, 1880년 왕립 학회 최고의 영예인 코플리 메달(Copley Medal)을 수상했습니다. 수학 외적으로는 시와 번역, 그리고 수학적 직관을 영어 운율에 적용한 시의 법칙(The Laws of Verse)이라는 논문을 발표하는 등 활발한 문학 활동을 펼쳤습니다. 동료들은 이를 단순한 취미가 아니라 그의 수학을 이끌었던 구조와 패턴에 대한 즐거움의 연장선으로 보았습니다.

제임스가 천재라 불리는 이유

실베스터의 천재성에 대한 근거는 한 경력에서 보기 드문 두 가지 증거에 기반합니다. 첫째는 순수한 수학적 독창성입니다. 그는 19세기 수학을 형성한 대수학의 한 분야인 불변량 이론을 공동 창시했고, 후대 수학자들이 기본 도구로 사용하는 용어들(특히 '행렬')을 만들었습니다. 둘째는 경력에서 보여준 회복탄력성입니다. 케임브리지에서 2위를 하고도 종교적 이유로 학위를 거부당하고, 보험, 법률, 실패한 미국 교수직을 전전하면서도 60대에 기초 연구를 수행하고 국가적 수학 저널을 창간한 점입니다.

솔직히 말해 실베스터의 경력은 제도적 편협함과 개인적 변덕(동료들은 그를 천재적이지만 다루기 힘들고 갈등을 일으키기 쉬운 인물로 묘사했으며, 이는 버지니아 등에서의 조기 퇴직 원인이 되었습니다)에 의해 형성되었습니다. 즉, 그의 독특하고 불규칙한 경로 중 일부는 그가 선택한 것이 아니라 강요된 것이었습니다. 그럼에도 불구하고 그를 천재로 평가하는 것은 사후의 미화가 아닙니다. 왕립 학회는 케임브리지보다 수십 년 앞서, 오직 수학적 업적만으로 그를 인정했습니다.

유산

실베스터는 1897년 3월 15일 런던에서 뇌졸중으로 82세의 나이에 사망했습니다. 그의 이름은 실베스터 관성 법칙(Sylvester's law of inertia), 실베스터 행렬(Sylvester matrices), 실베스터-갈라이 정리(Sylvester–Gallai theorem)에 남아 있습니다. 그러나 그의 더 넓은 유산은 훨씬 큽니다. 오늘날 선형대수학, 컴퓨터 그래픽, 데이터 과학에서 떼려야 뗄 수 없는 '행렬'이라는 단어 자체가 그의 조어이며, 그가 창간한 미국 수학 저널은 오늘날까지 발행되고 있습니다. 이는 케임브리지 학위를 거부당했던 유대인 수학자로부터 그가 구축을 도운 미국 연구 대학 시스템으로 이어지는 직접적인 제도적 계보입니다.