위대한 수학자 다비트 힐베르트의 삶과 학문을 만나다!

모든 수학적 문제는 반드시 해결할 수 있다는 신념이 수학자들에게는 강력한 자극제가 됩니다. 우리는 우리 자신에게 끊임없이 속삭입니다. “여기에 문제가 있다, 그 해를 찾아라. 너는 순수한 추리로 그것을 찾을 수 있다. 왜냐하면 수학에는 무지(無知)란 없기 때문입니다.

수학에서 진정한 발전이 있을 때마다 앞선 이론의 이해에 도움이 되고, 옛날의 복잡한 이론을 필요 없게 만드는 더 예리한 기구와 간단한 방법이 발명되었습니다. 다라서 이 더 예리한 기구와 간단한 방법을 체득한 사람은 다른 과학에서보다 더 용이하게 수학의 여러 분야를 이해할 수 있을 것입니다.
-다비트 힐베르트, 본문 중에서

1900년 8월 8일 프랑스 파리에서 열린 제2차 국제 수학자 대회에서 독일 괴팅겐 대학교의 수학자 다비트 힐베르트(David Hilbert, 1862∼1943년)는 20세기에 수학자들이 해결해야 할 23개의 문제를 제시했다. ‘수학의 미래’라는 제목의 강연에서 그가 제기한 23개의 문제는 등산가들의 백두대간처럼 20세기 수학자들이 반드시 타고 넘어야 할, 개척해야 할 수학의 산맥으로 자리 매김되었다. 그 후 100년 동안 23개의 문제 중 20개의 문제가 해결되었고, 그 과정에서 개발된 수학 개념과 원리들은 현대 수학의 근간이 되었다. 이렇게 현대 수학의 횃불을 제공해 준 힐베르트를 당대의 제자들은 수학에 재능 있는 젊은이들을 수학이라는 강으로 이끌어 가는 “피리 부는 사나이”라고 불렀다.
현대 수학의 아버지라고 해도 과언이 아닌 다비트 힐베르트의 삶과 업적을 다른 『현대 수학의 아버지 힐베르트(Hibert)』가 (주)사이언스북스에서 출간되었다. 힐베르트의 10번 문제를 푼 줄리아 로빈슨의 쌍둥이 언니이자 20세기 초중반의 과학자와 수학자를 중심으로 평전을 써 온 전기 작가 콘스탄스 리드(Constance Reid)가 쓰고 서울 대학교 수리과학부 이일해 명예교수가 옮긴 이 책은 19세기 말에서 20세기 중반까지 세계 수학계의 지도적 수학자였던 힐베르트의 인간적인 면모, 학술적인 공헌, 그리고 그를 중심으로 한 전 세계 수학자들의 활동에 관하여 흥미롭고도 진지하게 추적한다.
이 책은 우리말로 된 최초의 수학자 전기로서 1989년 ‘대우학술총서’로 출간된 『힐버트: 삶과 수학』의 번역을 다듬고 새롭게 꾸며 낸 책이다. 수학에 대한 열정으로 가득 찬 이 책은 출간 후 수학의 기본 정신에 관심이 많은 젊은 수학도와 일반 독자들에게 꾸준히 사랑을 받으며 중쇄를 거듭했다. 한 위대한 수학자의 진지한 삶의 향기가 진하게 녹아 있는 이 책을 현대적인 어문 규정과 감각에 맞춰 새롭게 펴냄으로써 시대와 장소를 뛰어넘어 다비트 힐베르트가 개척했던 학문적 성취는 물론 그가 가졌던 학문의 태도, 그리고 그가 살았던 시대의 지적 분위기를 전해 줄 것이다.

수학의 발전에 모든 것을 바친 다비트 힐베르트

만일 ‘파리의 문제’의 용어들이 전문적이 아니었더라면 나의 임무는 단순히 힐베르트가 제출한 문제를 가지고 오늘날까지 이 문제 중의 어떤 문제가 풀렸고, 어떤 문제가 부분적으로나마 해결되었다는 것을 말하면 끝날 것이다.
-헤르만 바일, 20세기 전반의 수학사를 정리해 달라는 미국 수학회의 요청을 받고

현대 수학은 19세기 중반 이후 독일과 프랑스를 중심으로 발달했다. 19세기의 위대한 수학자 가우스 이후 20세기 초반까지 수학의 수도는 괴팅겐이었다. 전 세계의 수많은 수학자들이 괴팅겐 대학교에 모여 수학의 역사, 본질, 그리고 미래에 대해 연구했다. 그 결과 뜨거운 지성의 용광로 괴팅겐은 수학은 물론, 물리학, 화학 같은 자연과학의 신시대를 열었다. 그리고 그 중심에는 다비트 힐베르트가 있었다. 과학의 중심은 수학이며, 인간 지성에는 한계가 없다고 믿었던 다비트 힐베르트는 현대 수학의 모든 분야의 기초를 닦았으며, 민족과 성별을 가리지 않고 수많은 후배 수학자들을 양성해 수학사의 물줄기를 바꾸는 데 절대적인 역할을 했다.
다비트 힐베르트는 1862년 1월 23일에 프로이센령 쾨니히스베르크에서 태어났다. 1884년 쾨니히스베르크 대학교에서 박사 학위를 받았고, 같은 대학에서 1895년까지 조교수, 부교수, 정교수로 재직했다. 1895년 당대 독일 수학계의 태두 펠릭스 클라인(Felix Klein)의 초청으로 괴팅겐 대학교로 자리를 옮긴 후 죽을 때까지 그곳에서 수학 연구와 후학 양성에 매진했다. 보여이 상 등 당대 제일의 수학상을 다수 수상했으며 영국의 작위에 해당하는 추밀 고문관 직위를 하사받았다.
다비트 힐베르트는 쾨니히스베르크 대학교의 사강사 시절 30년 가까이 유럽 수학자들을 괴롭혔던 ‘고르단의 문제’를 수학적 귀류법(어떤 명제가 참임을 증명하고자 할 때, 그 명제를 거짓이라고 가정했을 경우 논리 전체가 모순을 보이는 것을 증명함으로써 그 명제가 참임을 증명하는 방법)을 사용해 간단하게 해결함으로써 명성을 쌓기 시작했다. 현대 수학에서는 보편적인 방법이지만 당시까지는 잘 사용되지 않은 귀류법을 적극적으로 사용함으로써 현대 수학자의 전범이 되었다.
그 후 괴팅겐으로 자리를 옮긴 뒤 그 당시까지 수학계에서 만들어진 수론에 대한 연구 성과들을 정리∙종합한 『수론 보고서(Zahlbericht)』를 펴내 수론 연구의 새 지평을 열었다. 또 『기하학의 기초(Grundlagen der Geometrie)』라는 책을 펴내 유클리드 기하학을 다시 한 번 체계화함으로써 수학적 형식주의의 기초를 닦았다.
또 앞에 설명한 대로 당시까지 존재하던 주요 수학 문제들을 모아 1900년에 파리에서 23개의 힐베르트 문제들을 발표함으로써 20세기의 수학이 어느 방향으로 나아가야 하는지 천명했다.
또 수학의 논리적 기초를 공고히 하기 위해 수학적 공리계의 완비성, 독립성, 무모순성을 증명하려는 연구를 했다. 쿠르트 괴델이 수학적 공리계의 무모순성을 증명할 수 없다는 불완전성의 정리를 증명할 때까지 계속되었던 힐베르트의 연구는 수학기초론이라는 새로운 수학 분야를 탄생시켰고, 수리논리학의 고도로 발전시켰다.
힐베르트의 학문적 업적은 수학 분야에만 국한되지 않았다. 어린 시절부터 친구였던 헤르만 민코프스키와 함께 진행한 연구를 통해 알베르트 아인슈타인과는 다른 방식으로 상대성 이론을 도출해 내는 데 성공했으며, 그 과정에서 연구한 적분방정식 이론으로 20세기를 풍미한 함수해석학 분야를 낳았다. 또 상대성 이론 연구와 양자역학 연구에서 필수불가결한 힐베르트 공간 이론을 탄생시켰다.
그가 괴팅겐 대학교 수학과에 있는 동안 괴팅겐은 전 세계의 수학도들이 “당장 옷 보따리를 싸 가지고” 가야 하는 곳이 되었다. 멀리는 극동 일본에서 온 일본 현대 수론의 아버지 다카기 데이지에서부터 양자역학과 불확정성 원리의 창시자인 베르너 하이젠베르크까지 힐베르트가 괴팅겐에 있던 40여 년 동안 수많은 수학자, 물리학자들이 그의 밑에서 수학했으며, “모든 문제는 풀 수 있거나, 풀 수 없다는 것이 밝혀져야 한다.”라고 믿었던 힐베르트 정신을 전 세계에 전파했다.

우리는 알아야 한다. 그리고 우리는 알게 될 것이다

철학자 오귀스트 콩트는 언젠가 해결 불가능한 문제의 보기로서 ‘과학의 힘으로는 우주에 있는 천체의 화학적 구조의 비밀을 밝힐 수 없을 것이다.’라고 주장했지만 몇 년 후에 이 문제가 해결되었습니다. 저의 생각으로는 왜 콩트가 정말로 해결 불가능한 문제를 발견할 수 없었느냐 하면 이 세상에는 해결 불가능한 문제란 존재하지 않기 때문이다. 우리는 알아야 한다. 그리고 우리는 알게 될 것이다.
-다비트 힐베르트, 쾨니히스베르크의 라디오 방송 강연에서

이 책은 다비트 힐베르트의 수학적 업적만을 다루지 않는다. 한 사람의 수학자로서, 교사로서, 남편으로서, 아버지로서의 다비트 힐베르트의 모습을 그를 거쳐 갔던 수많은 사람들의 증언과 자료를 바탕으로 생생하게 묘사해 낸다. 저자는 콘스탄스 리드는 다비트 힐베르트의 족보는 물론, 그의 제자, 그의 스승, 그의 동료 들의 증언과 그가 학문적 동료이자 진정한 친구였던 헤르만 민코프스키와 주고받은 편지를 샅샅이 뒤지며 학문적 업적 뒤에 가려져 있는 그의 인간적 면모를 복원해 낸다. 이를 통해 위대한 수학자가 유쾌하고 존경할 만한 스승이었으며, 믿음직한 학문적 동반자였으며, 자식 문제와 가정사에 고통스러워했던 가장이었음이 밝혀진다.
또한 괴팅겐 수학과와 힐베르트의 화려했던 시절만이 아니라 두 차례의 세계 대전과 나치의 유대 인 탄압으로 황폐화되어 가는 독일 지성계와 힐베르트의 정신 상태를 추적하여 수학적 영웅의 그늘을 밀도감 있게 부각시킨다. 또 이것을 통해 전 세계 과학 발전을 주도했던 독일 과학계가 쇠락하고 미국 과학계가 발전하는 과학사적 성찰을 가능케 한다.
현대 수학의 아버지 다비트 힐베르트의 평전인 동시에, 현대 수학의 역사를 섬세하게 추적한 이 책은 학문 발전에 모든 것을 바쳤던 수학자들의 열정적인 삶을 생생하게 보여 줌으로써 독자들에게 수학의 즐거움을 일깨우기에 충분할 것이다.

추천사-리하르트 쿠란트

책머리에

1장 유년 시절의 힐베르트

2장 친구와 선생

3장 학위 취득

4장 파리 여행

5장 고르단의 문제

6장 괴팅겐으로 가다

7장 대수적 정수론의 연구

8장 탁자와 의자 그리고 맥주잔

9장 디리클레의 원리와 파리로부터의 초청

10장 수학의 미래

11장 20세기가 열리다

12장 제2의 청춘

13장 정열적인 연구 활동

14장 시공간과 워링의 문제

15장 새로운 친구와 제자

16장 물리학 연구

17장 전쟁

18장 수학기초론

19장 전후의 괴팅겐

20장 증명론의 태동

21장 직관주의자와의 논쟁

22장 쾨니히스베르크 명예시민

23장 나치의 대추방

24장 영웅의 황혼

25장 책을 마치며

부록 힐베르트의 수학적 업적-헤르만 바일

옮기고 나서

찾아보기