2014년 7월 8일 화요일

‘무한집합론’ 수학자 칸토어

부분은 전체보다 작은가? 인간은 오래 전부터 이런 질문에 그렇다고 대답해 왔다. 그런데, 항상 부분이 전체보다 작은 것은 아니며 부분이 전체와 같을 수 있다고 주장한 수학자가 있다. 19세기 말 수학계에 엄청난 파란을 일으킨 독일의 수학자 칸토어(Cantor, 1845-1918)가 바로 그 사람이다.(칸토어를 ‘칸토르’로 부르기도 한다.)

칸토어는 1845년에 소련의 레닌그라드에서 태어났다. 그의 아버지는 부유한 상인이었고 어머니는 예술적 소양이 많았었다. 아버지가 1856년에 독일의 프랑크푸르트로 이사한 후 칸토어도 계속 그 곳에서 살았기 때문에 칸토어를 독일의 수학자라고 생각하게 된다. 

칸토어는 중ㆍ고등학교 시절 수학 성적이 아주 우수하였다. 그러나 아버지는 칸토어가 장차 식생활에 도움이 될 기술 방면의 직업으로 나아가도록 완고하게 고집하였다. 아버지를 사랑하는 칸토어는 아버지의 뜻을 따르도록 노력하면서 소심한 성격이 형성되었던 것 같다. 훗날 그런 소심한 성격 때문에 정신병에 걸리게 되었을지도 모른다. 자식의 재능과 자식을 사랑하는 아버지의 고집 사이의 갈등은 평범한 사람들만이 아니라 오일러나 칸토어 같은 위대한 수학자에게도 마찬가지인 것이다. 칸토어가 17살 때에야 비로소 아버지는 자신의 고집을 버리고 아들이 대학에서 수학을 전공하도록 허락하였다. 

칸토어가 공부하였던 베를린 대학에는 유명한 수학자들이 여러 명 있었는데, 특히 크로네커라는 수학자와는 나중에 많은 갈등을 겪게 된다. 칸토어는 베를린의 한 여학교에서 교편을 잡다가 1869년에 할레 대학에 부임하여 1905년까지 그 대학의 교수 생활을 하였다. 29살 되는 해인 1874년에 칸토어는 집합론에 대한 혁명적인 논문을 발표하였고 그 해 결혼하였다. 

칸토어는 여섯 자녀를 두었지만 어느 자녀도 아버지의 수학적 재능을 이어받지 못했다. 그는 베를린 대학에서 교수가 되기를 원하였으나 크로네커의 반대 때문에 베를린 대학의 교수가 될 수 없었다. 

무한집합에 대한 칸토어의 연구에 대하여, 크로네커는 칸토어 때문에 수학계가 정신병원으로 가고 있다고 생각하여 닥치는 대로 칸토어를 격렬하게 비판하였고, 칸토어는 정신병에 걸리고 말았다. 그래서 그는 자신의 연구가 잘못되었고 자신이 너무 보잘 것 없는 사람이라고 생각하였다. 할레 대학에 자신을 수학교수에서 철학교수로 옮겨달라고 요청하기도 하였다. 그러나 우울 상태가 벗어나면 놀라운 연구를 하기도 하였다.

그런 칸토어를 인정하고 지원해 준 수학자로 데데킨트, 미탁-레플러, 헤르마이트 등이 있다. 1897년 제1회 국제 수학자 회의에서 칸토어의 공적이 널리 인정되었으며, 1901년에는 런던 수학회의 명예 회원이 되었다. 

힐베르트는 “칸토어의 집합론은 수학자의 두뇌가 만들어 낸 가장 훌륭한 최고의 업적”이라고 말할 정도로, 이 후 칸토어의 집합론은 수학 전체에 걸쳐서 근본적인 공헌을 하게 되었다.

그러나 그의 말년은 불운했다. 제 1차 세계대전 내내 그는 가난하고 굶주리기까지 했으며, 결국 1918년에 할레의 정신병원에서 정신병으로 사망했다.

그러면 크로네커의 격렬한 반대에 부딪혔던 그의 집합론은 무엇일까? 그것을 자세히 설명하는 것은 어려운 일이지만, 간단히 이야기하면, 무한을 세었다는 것이다. 이전까지 수학자는 무한을 세는 것을 두려워했다. 19세기 가장 위대한 수학자인 가우스도 무한을 셈하려는 것에 반대하며 무한이란 말하는 방법에 불과하다고 주장하였다. 그러나 칸토어는 무한을 세었으며 큰 무한과 작은 무한을 계산하였던 것이다. 그리고 무한을 세는 방법으로 일대일대응이라는 방법을 이용하였다. 

자연수의 집합과 짝수의 집합을 생각해 보자. 분명히 짝수의 집합은 자연수의 집합의 부분이고 자연수의 집합이 짝수의 집합보다 두 배나 많은 수를 가지고 있을 것이라고 생각할 수 있다. 그런데, 다음과 같이 짝을 지으면 두 집합의 모든 원소들이 일대일대응하게 된다. 그러므로 이 두 집합의 원소의 개수는 같다고 할 수 있다.

마찬가지로 자연수의 집합과 정수의 집합은 그 원소의 개수가 같다. 어떻게 일대일대응을 시킬 수 있는지 생각해 보아라.

또, 길이가 1cm인 선분과 2cm인 선분에 있는 점들의 개수를 생각해 보자. 아마도 길이가 2cm인 선분에 있는 점의 개수는 1cm 선분에 있는 점의 개수의 두 배가 될 것이라고 생각할 것이다. 그러다 다음 그림과 같이 점을 짝 지으면 일대일대응이 된다. 

즉, 두 선분의 양 끝점을 이어서 만난 점 O와 짧은 선분 위의 한 점 P를 이은 직선이 긴 선분과 만나는 점 Q와 대응을 시키는 방법처럼 대응시키면 두 선분의 모든 점들이 일대일대응이 되는 것이다. 


이렇게 되면 우리가 알고 있는 많은, 무한히 많은 서로 다르게 보이는 것들이 모두 같은 무한이 되어 버리는 것이다. 그런데 칸토어는 여기서 다 나아가서 이것보다 더 큰 무한도 찾아내었다. 

그러니 크로네커와 같은 많은 수학자들이 칸토어가 틀렸다고 공격을 하지 않을 수 없었을 것이다. 또한 칸토어 자신도 상식과 다른 이런 결과에 놀라고 당혹해서 정신병에 걸리게 되었을 것이다. 그러나 칸토어의 희생 덕분에 지금은 이러한 결과를 당연하게 받아들이고 있으며, ‘부분이 전체와 일대일대응이 되는 집합’을 이용하여 우리는 무한 세계를 탐구하게 되었다.


칸토어는 자신을 비판하는 많은 수학자들을 향해서 “수학의 본질은 자유에 있다.”고 주장하였다. 장기를 둘 때 여러 말의 움직임은 하나의 규칙이다. 이런 규칙을 따라서 장기를 이기는 것도 중요하지만, 장기 규칙을 자유롭게 바꾸어 새로운 
게임을 만들어보는 것은 어떨까? 마찬가지로 수학의 여러 법칙을 나름대로 바꿔서 새로운 수학을 창조하는 자유를 누려봄이 어떨까? 물론 정신병원에 가야 하는 위험 부담이 있을 수 있겠지만…
.경향신문

댓글 없음: