2015년 7월 21일 화요일

타임머신과 컴퓨터 괴델 사상의 영향

괴델이라는 천재와 그의 불완전성 정리를 이해하기 위해서는 20세기의 학문적 상황을 이해해야 한다. 20세기의 지적 상황은 한마디로 격동기였으며 혁명기였다.



다시 3, 4백년을 거슬러 올라가면 우리는 근대라는 또 다른 격동기와 혁명기를 만난다. 근대의 지적 상황은 미적분학과 뉴턴의 역학, 그리고 근대철학으로 대표될 수 있지만, 논리학은 아리스토텔레스의 논리학이 그대로 잔존해 있었고, 기하학은 여전히 유클리드 기하학으로 남아 있었다.



반면에 20세기에 이르면 프레게의 새로운 논리학이 등장하고, 비유클리드 기하학이 자리를 잡았으며, 칸토어의 집합론이 발흥한다. 뿐만 아니라 아인슈타인의 상대성 이론과 하이젠베르크 등의 양자 역학이 등장한다. 칸트가 그의《순수이성비판》을 통하여 뉴턴의 역학을 정당화하려고 했듯이, 20세기의 지적 혁명기는 새롭게 주어진 것들을 문제 삼지 않을 수 없게 만들었다. 이른바 분석철학은 바로 이러한 지적 상황에서 발흥한 것이다.



난세에 영웅이 출현한다는 말이 있듯이 20세기는 바로 그러한 혁명기였던 것이다. 괴델은 20세기에 이르러 새롭게 만들어진 현대 논리학의 문제와 관련하여 그의 유명한 “불완전성 정리”로 대답하였다. 새롭게 출현한 집합론의 핵심 문제인 연속체 가설에 대해 집합론의 공리체계에서 그 가설을 반증하는 것이 불가능하다는 것을 증명했으며, 아인슈타인의 상대성 이론에 대해서 타임머신을 가능케 하는 우주론인 “회전하는 우주”를 제시하였다. 그러면서 그는 수학의 대상들이 인간의 정신과 독립적으로 존재한다는 플라톤의 실재론을 확고하게 부활시켰고, 신의 존재를 증명하려고 시도했으며, (비공식적으로) 내세를 믿었다.



무엇보다도 그가 25살 때 증명한 불완전성 정리는 20세기 지성사에 커다란 충격이었고, 세계적인 슈퍼스타의 탄생을 알리는 신호탄이었다. 그런데 불완전성 정리는 수학과 논리학의 발전에서 획기적인 이정표일 뿐만 아니라 현대인의 삶을 혁명적으로 뒤바꿀 중요한 착상을 포함하고 있었다.



21세기를 열고 있는 지금, 컴퓨터는 우리의 생활에 깊숙이 자리 잡고 있다. 잘 알려져 있듯이 현대 컴퓨터의 직접적이고 핵심적인 아이디어를 제공한 수학자는 앨런 튜링이다. 튜링의 “보편 기계”가 바로 그것이다. 튜링은 우리의 계산절차를 모두 흉내 낼 수 있는 이른바 “튜링 기계”를 창안해내었는데, 보편 기계란 어떤 튜링 기계에서도 가능한, 모든 일을 할 수 있는 단일한 튜링 기계를 말한다.



바로 이 보편 기계에서 필요한 핵심적인 아이디어를 제공한 수학자가 곧 괴델인 것이다. 괴델이 그의 불완전성 정리를 증명하는 과정에서 창안한 괴델 수 대응(Gödel numbering)이 바로 그것이다. 괴델 수 대응이란 대충 말하면 어떤 언어적 표현이든 그것을 하나의 수로 대응시키는 방법을 말한다. 한 단어, 문장, 그리고 문장들의 모임은 괴델 수 대응에 의해 모두 하나의 수로 대응시킬 수 있다.

그렇게 되면 예를 들어 워드 프로세서와 같은 프로그램도 결국 문장들의 모임이므로 하나의 수로 대응시킬 수 있다. 결국 하드웨어, 프로그램, 데이터라는 범주는 완전히 분리된 실체가 아니며, 운영체계의 입장에서 보면 워드 프로세서도 하나의 데이터일 뿐이다. 튜링의 보편 기계는 현대 컴퓨터의 가장 직접적인 이론적인 모태였던 것이다.



프린스턴에 정착하는 과정을 전후해서 괴델이 내놓은 가장 중요한 업적은 칸토어의 연속체 가설이 집합론의 공리와 상대적으로 모순되지 않는다는 것을 증명한 것이었다. 19세기 말 칸토어가 발명한 집합론은 무한을 다루기 위한 학문이었다. 칸토어는 자연수 집합의 농도(전체 원소의 개수)가 실수 집합의 농도보다 작다는 것을 증명하였다. 요컨대 무한에는 등급이 존재해서 더 큰 무한과 작은 무한이 있다는 것이다.

이러한 무한을 나타내는 수를 초한수라고 하는데, 칸토어의 연속체 가설이 말하는 것은 자연수 집합을 나타내는 초한수와 실수 집합을 나타내는 초한수 사이에는 어떤 다른 초한수가 존재하지 않는다는 것이었다. 괴델은 그러한 가정을 해도 집합론의 다른 공리로부터 모순이 도출되지 않는다는 것을 증명한 것이다.




프린스턴의 고등연구소에 정착한 이후 괴델은 아인슈타인을 기념하는 논문집에 실을 논문을 청탁 받고 집필하는 과정에서 새로운 우주론을 제안한다. 우리에게 타임머신으로 이미 익숙하게 알려진 공상과학의 이야기는 아인슈타인의 장방정식의 해결로써 괴델이 제시한 “회전하는 우주”라는 모델에 의해서 가능했던 것이다.



20세기를 상징하는 것으로서 두 가지를 제시하라고 한다면 다른 것들도 있겠지만 원자폭탄과 컴퓨터 정도가 아닐까 싶다. 그만큼 이 둘은 인류의 삶과 생각을 혁명적으로 바꾸어 버렸다. 이 둘을 직접적으로든 간접적으로든 가능하게 한 것은 아인슈타인의 상대성 이론과 괴델의 불완전성 정리이다. 그런데 기묘한 것은 이 두 사람이 미국 프린스턴 고등연구소에서 절친한 친구로 함께 지냈다는 사실이다.

괴델은 1955년 아인슈타인이 사망하자 두 달 이상 대단히 슬퍼하고 괴로워했다고 한다. 세상을 엄청난 위력으로 바꾸게 될 학문적 연구를 수행하는 두 천재가 이렇게 진지한 우정을 나누며 함께 지냈다는 것은 역사적으로 참 보기 드문 광경이다.
 Science Times

댓글 없음: