무한에 도전한 고전 집합론의 창시자, 칸토어

게오르그 칸토어(Georg Cantor, 1845년 ~ 1918년)는 무한 집합에 대한 연구로 현대 수학의 기반이 되는 고전 집합론의 창시자입니다. 당시에는 무한이라는 것이 신에 대한 대한 도전으로 금기시되었는데 이를 깨고 무한을 연구한 수학자 칸토어에 대하여 알아보겠습니다.

 

수학자가 되고 싶은 칸토어

칸토어는 러시아의 상트페테르부르크에서 태어났습니다. 칸토어는 6남매 중 맏이이고 아버지는 성공한 상인이었고 그의 외가는 음악인 집안으로 어머니 또한 바이올리니스트였습니다. 칸토어가 11살 때 아버지의 건강상의 이유로 독일로 돌아왔습니다. 어렸을 때부터 칸토어는 다른 과목보다 수학을 특히 좋아했습니다. 그렇지만 미래가 불투명한 학자의 길을 가기보다는 사회에서 성공한 사람이 되길 바랐던 아버지의 뜻에 따라 공과 대학에 진학하게 됩니다. 하지만 칸토어가 적응하지 못하고 방황을 하자 아버지는 그가 수학 공부를 하도록 허락하였습니다. 칸토어는 베를린 대학으로 옮겨 당시 유명한 독일의 수학자 바이어슈트라스에게 해석학을 크로네커에게 정수론을 배우면서 본격적인 수학자의 길을 걷게 됩니다. 1867년 정수론 연구로 박사학위를 받게 됩니다. 

 

독일의 할레 대학교에서 강의를 시작하고 대학 때부터 주요 관심사였던 정수론의 대한 연구를 계속해 나갔습니다. 무한급수가 특정한 값에 가까워지면 어떻게 될까? 즉, 수렴에 대한 연구를 했습니다. 마침내 칸토어는 무한 개념에 대한 연구까지 하게 됩니다. 

 

 

무한에 도전하다

칸토어가 29세가 되던 해 자신의 가장 중요한 업적 중 하나인 집합론을 발표합니다. 집합론이 발표되자 수학계는 큰 충격에 빠졌습니다. 그 당시 사람들은 무한은 신의 영역이라 생각했기에 인간이 무한을 다룬다는 것은 불경한 일이었습니다. 하지만 그는 이에 아랑곳하지 않고 무한을 분류하기도 하고 분류한 것끼리 셈하고 크기까지 비교했습니다. 이에 많은 사람들이 그를 비난하기 시작했습니다. 여기에는 그의 스승인 크리네커도 있었는데 '칸토어의 논문은 수학이 아니라'라며 맹렬히 비난했습니다. 앙리 푸앵카레 역시 칸토어의 무한집합론은 수학계의 역병이라고도 했습니다. 자연수를 바탕으로 한 유한한 단계를 통해 구성할 수 있는 수학만이 진실한 것이라고 믿었던 유한주의자 크로네커에겐 어쩌면 당연한 것일지도 모릅니다. 

 

정신질환을 앓다

주변의 이런 반응에 심한 압박을 받은 칸토어는 이때부터 정신병원을 다니기 시작합니다. 할레 대학에서 교수로 일하면서 칸토어는 우울증 비슷한 증세를 보이며 수년 주기로 입원과 강단 복귀를 반복하다가 후에는 각종 이상행동을 보이기도 합니다. 셰익스피어의 정체가 사실은 프랜시스 베이컨이라는 설에 집착했고 자신을 음해하는 세력이 있다는 등 불안한 모습을 보였지만 대학은 그를 계속 고용했습니다. 칸토어는 이 같은 이상증세를 보이면서도 대각선 논법을 발표하고 집합론을 정립하는 등 중요한 수학적 업적을 이루어냅니다. 이 대각선 논법은 그의 말년에 연속체 가설의 증명 연구로 이어집니다. 하지만 정신질환을 앓고 있던 칸토어는 제1차 세계대전이 일어나자 가난과 영양 부족에 시달리다가 정신병원에서 심장마비로 세상을 떠나게 됩니다. 칸토어의 연속체 가설의 독립성은 힐베르트의 23가지 문제 중 하나가 되었고 후에 괴델과 코언이 증명했습니다. 

 

 

칸토어의 집합론

칸토어의 가장 큰 업적은 바로 집합론의 확립입니다. 무한의 개념을 밝히고 놀라운 무한의 성질을 발견했으며 무한의 여러 단계를 수학적으로 설명해 냈습니다. 이전까지 많은 수학자들이 무한을 센다는 것을 두려워하여 '무수히 많다.'라고 했습니다. 당시는 무한에 대한 연구를 신성모독이라 생각했기 때문입니다. 19세기의 위대한 수학자인 가우스도 무한을 계산한다는 것을 반대하였고 무한이라는 것은 말하는 방법에 불과하다고 생각하였습니다. 칸토어는 무한을 세기도 하면서 큰 무한과 작은 무한으로 나누고 계산도 하였습니다. 그는 '일대일 대응'의 개념을 가지고 생각했습니다.

 

자연수 집합과 짝수의 집합이 있습니다. 보통 자연수 집합 안에 짝수 집합이 존재하고 자연수 집합은 짝수 집합의 2배가 될 거라 생각합니다. 그러나 칸토어는 자연수 1, 2, 3, ······ , n, n+1, ······  을 짝수 2, 4, 6, ······ ,2n, 2n+2, ······ 이렇게 일대일 대응 시키면 두 집합의 원소의 개수가 같아진다고 생각했습니다. 이런 방법을 쓰면 서로 다르게 보이는 자연수 집합과 짝수 집합이 모두 무한이 되어버립니다. 즉, 무한에서는 부분이 전체와 같을 수 있다는 주장인 것입니다.

자연수와 짝수는 일대일 대응이다.

 

위의 방법을 쓰면 자연수와 짝수, 유리수까지 같은 집합이 됩니다. 그렇지만 실수의 집합은 다르다고 생각했습니다. 실수의 집합은 셀 수 없음을 증명하는 기법, 집합론에서 실수의 집합의 크기와 자연수의 집합의 크기가 같다고 가정하면 일대일 대응 관계와 함께 증명하는 과정에서 도식화한 대각선 논법으로 모순임을 이해할 수 있습니다. 결국 대각선 논법으로 실수의 개수가 자연수 개수보다 매우 많다는 것을 증명할 수 있습니다. 

자연수와 실수가 일대일 대응을 했으나(좌) 대각선 방법으로 새로운 실수가 생성되어(우) 실수가 자연수보다 크다. 

 

또한 칸토어는 수리철학에도 영향을 주었습니다. 칸토어의 집합론 이후 현대 수학의 기초론 전개와 밀접한 관련을 맺으면서 발전할 수 있었습니다. 

 

 

칸토어의 영향과 의의

집합론과 무한대 연구에 대한 칸토어의 공헌은 새로운 수학 분야의 발전으로 이어졌고 20세기 모든 수학의 기초를 세우는데 큰 공헌을 했습니다. 또한 많은 수학자들이 그의 연구를 계속하도록 큰 영감을 주었습니다. 또한 칸토어의 아이디어는 과학과 철학의 다른 영역에도 영향을 주었는데 무한의 개념이 중요한 역할을 하는 물리학 및 우주론 연구에 영향을 미치고 있습니다. 칸토어는 그의 연구가 학계의 반대와 비난을 받았음에도 불구하고 인내하고 평생 동안 현장에 중요한 공헌을 했습니다. 그가 힘든 시간을 이겨낸 원동력이자 그의 신념이 나타난 그의 말을 인용하면서 글을 마치겠습니다.

수학의 본질은 그것이 갖는 자유로움에 있다.