새로운 이론이 세상에 뚫고 나오기까지

새로운 과학적 진리는 반대자를 납득시키거나 그 빛을 보게 함으로써 승리를 얻는 것이 아니라, 반대자들이 마침내 죽은 뒤 새로운 세대가 그 빛에 친숙해짐으로써 얻어지는 것이다.”

아인슈타인과 쌍벽을 이루는 양자역학의 창시자인 독일의 물리학자이자 막스 플랑크(1858 ~1947)가 남긴 말로, 토마스 쿤의 ‘과학혁명의 구조’에 인용되면서 널리 알려졌다.

이 문구는 새로운 이론을 창출해내는 선구자의 길이 얼마나 험한가를 단적으로 보여준다.

칸토르(Georg Cantor, 1845~1918) ⓒ 위키미디어

수학 분야에도 그러한 예는 많이 있다. 중학교 수학책 첫 단원에 나오는 집합이론을 보자. 이 이론을 만든 독일의 수학자 칸토르(Georg Cantor, 1845~1918)는 스승인 크로네커 등 당대 대부분의 학자들로부터 학문적인 공격만이 아니라 인신공격까지 받았다.

위대한 수학자 가우스(Johann Carl Friedrich Gauss, 1777~1855)는 무한은 수학적 가치가 없다고 말했다. 대부분의 수학자들은 가우스의 의견을 따라 무한을 피해갔지만 칸토르는 무한을 인간의 영역으로 끌어내리는 데 성공했다. 그는 무한의 개수를 세는 방법을 생각해내었고, 자연수와 유리수의 개수는 같고 자연수보다 실수가 ‘훨씬’ 많음도 증명하였다. 무한을 다루는 방법을 찾은 그의 이론은 신의 영역을 넘어선, 미친 소리로 취급받았고 급기야 칸트는 우울증과 신경쇠약으로 정신병에 걸린 채 사망하였다. 그러나 현대 수학은 집합론의 토대 위에 다시 쓰였다고 말할 정도로 집합론은 이젠 수학의 기초를 이루고 있다.

또 다른 예로 생활 속의 수학이야기(8) ‘휘어진 공간을 이용한 새 기하학’에서 소개된 비유클리드 기하학도 생각해볼 수 있다.

지금은 중력을 받는 시공간이 휘어져 있다는 상대성이론이 당연하게 받아들여진다. 그러나 상대성이론의 수학적 토대인 비유클리드 기하학이 처음 세상에 나왔을 때만 해도 사정은 매우 다르다.

유클리드의 다섯 번째 공준(한 직선 밖에 있는 한 점을 지나는 이 직선과 평행한 직선은 오직 하나뿐이라는 내용으로 평행선 공준이라고도 한다)을 부정하여 의미 있는 결과를 처음으로 얻어낸 이탈리아 수학자 사케리(Giovanni Girolamo Saccheri, 1667~1733)는 자신이 얻어낸 결과의 뜻이 무엇인지 정확히 몰랐다.

또한 처음으로 그 결과를 학회에서 발표한 러시아 수학자 로바체프스키(Никола́й Ива́нович Лобаче́вский, 1792~1856)는 비웃음을 샀다. 헝가리 수학자 보여이 야노시(Bolyai János, 1802~1860)가 쓴 비유클리드 기하학에 대한 논문을 받아본 가우스는 “나도 이미 알고 있는데 세상이 시끄러워질까봐 발표하지 않았다”고 답장하였다. 가우스가 두려워한 세상에는 칸트가 크게 자리 잡고 있었으리라 짐작한다. 그 이유를 살펴보자.

유럽의 중세는 신이 모든 것을 지배하는 시대였다. 전염병이 돌아도 신의 뜻이고 벼락이 쳐도 신의 뜻이었다. 꽃이 피어도 신의 뜻이고 계절이 돌아와도 신의 뜻이니 자연의 원리를 탐구할 필요가 없었다.

그러나 1300년 경 유럽 전역을 휩쓴 기근과 흑사병으로 인한 사회불안과 폭동, 그리고 백년 전쟁 등 끝없이 계속 되는 전쟁, 대립교황들의 존재를 비롯한 카톨릭의 부패는 중세의 전통적인 가치관을 흔들리게 했다. 여기에 그리스 학자들과 비잔틴 제국의 학자들이 유럽으로 몰려들어 오게 되는 역사적인 흐름이 만들어지면서 유럽은 폭발적으로 중세에서 벗어나기 시작하였다.

아마도 근대의 시작은 데카르트(René Descartes, 1596~1650)에게서 찾아야 할 것이다. 근대 철학의 아버지로 불리는 데카르트는 코기토(Cogito) 즉, ‘나는 생각한다, 고로 존재한다’라는 한 마디의 말로 자신의 철학을 표현하였다.

데카르트 이전에는 모든 현상이 신의 뜻에 의한 것이었다면 데카르트부터는 (한 발 물러난)신이 세상을 그렇게 만든 이유를 탐구하는 것으로 바뀌었다. 데카르트는 인간의 이성에 기초하여, 의심할 수 없을 정도로 확실하게 진리인 것 외에는 어떤 것도 진리로 받아들이지 않겠다고 천명하였다.

이 정신은 칸트에게도 이어졌다. 칸트는 인간의 판단 형식을 종합판단, 분석판단으로 분류하였다. 종합판단은 술어 개념에 주어 개념이 포함되지 않는 판단이고 분석판단은 술어 개념에 주어 개념이 포함되어 있는 판단이다. 여기에 경험을 통해 알 수 있는 지식과 경험을 통하지 않고 알 수 있는 지식인 선험을 덧붙여 인간의 지식을 네 가지로 분류하였다.

예를 들어 ‘모든 어린이는 어리다’는 선험적 분석 판단이다. 어린이가 어리다는 사실은 경험하지 않아도 알 수 있다. 그러나 이 문장은 동어반복으로 새로운 지식을 얻을 게 없다. ‘모든 어린이는 개구쟁이다’는 경험적 종합판단이다. 어린이라는 주어에는 개구쟁이라는 뜻이 없으므로 여러 어린이들이 개구쟁이인지 아닌지 경험해서 판단을 종합 판단을 내려야 한다. 그런데 경험에 의존해서 이 문장이 참인지 확신하기는 곤란하다. 결국 칸트가 진리를 탐구하기 위해 찾은 방법은 선험적 종합판단이다. 선험적 종합 판단만이 새로운 지식을 추가하면서도 언제나 확실하고 타당한 판단으로 이끈다고 본 것이다.

칸트와 손님들(Kant und seine Tischgenossen),
되르스틀링(Gemälde von Emil Dörstling), 1892/1893 ⓒ위키미디어

칸트가 찾은 선험적 지식의 예는 ‘2+2=4’, ‘두 맞꼭지각의 크기는 같다’와 같은 수학적 지식이었다. 이런 지식들은 경험하지 않아도 그것이 참임을 알 수 있다. 더구나 이런 수학적 지식을 종합해나가면 새로운 지식을 만들어낼 수 있었다.

칸트가 데카르트처럼 수학 분야에 직접적인 업적을 남기지는 않았으나, 수학적 방법을 통해서 진리를 탐구해나갈 수 있다고 보았다. 그의 철학 곳곳에 수학의 선험성이 배어있다. 서양 사상에 대한 칸트의 영향은 이루 헤아릴 수 없을 정도인데, 우리 이성이 주체적인 능력에 의해 사물에 대한 개념을 구성하여 인식한다는 그의 인식론은 ‘코페르니쿠스적 전환’이라고 일컬어질 정도다(칸트 이전에는 존재하는 대상을 감각으로 받아들여 인식한다고 보았다).

당시 유럽에서 매우 큰 영향력을 갖고 있던 칸트는 평행선 공준도 선험적 지식, 즉 절대 진리로 간주하였다. 칸트 이전에 살았던 사케리와 같은 수학자들의 시도는 칸트에게 전혀 의미없는 일이었을 것이다. 가우스가 이미 평행선 공준에 대한 연구 결과를 갖고 있으면서도 친구 아들인 보여이 야노시의 연구 결과를 보고 지지하지 않은 이유는 기록으로 전해지지 않는다. 그렇지만 칸트가 가우스보다 오십년 정도 앞 선 사람이라는 걸 생각하면 가우스가 칸트를 의식했다는 것은 어느 정도 개연성있는 짐작이라고 할 수 있다.

그러나 아이러니 하게도 비유클리드 기하학은 가우스의 제자인 리만(Georg Friedrich Bernhard Riemann, 1826~1866)에 의해 위상을 정립하게 된다. 곡률이라는 개념을 도입하고 미분을 이용하여 일반화된 공간에서 기하를 연구하는 방법을 발표한 것이다. 물론 가우스의 배려 아래 이루어진 일이긴 하나 엄연히 리만의 업적이다.

코페르니쿠스적인 패러다임의 전환을 가져온 선구자들의 창조적인 생각은 당대에 인정받기 힘들다. 오히려 온갖 비난과 공격이 그들의 삶을 불행하게 만든 경우가 허다하다.

그러나 생각해보자. 칸토르가 그의 논문 속에서 ‘수학의 본질은 자유에 있다’고 주장한 것은 무슨 뜻이었을까. 모두들 피해가던 무한을 탐구하는 도전, 한계를 넘어서려는 자유에의 추구가 수학의 본질이라는 외침이다. 선험적 절대 진리였던 평행선 공준을 뛰어넘어 비유클리드 기하학의 시대를 열어젖힌 선구자들이 추구한 자유. 한 걸음씩 내딛는 우직함은 우리 세계에 또 다른 새로운 이론이 뚫고 나오게 하는 힘이다.

ScienceTimes