우주신비 해결의 열쇠 리만 기하학

이집트 나일강변의 토지측량에서 출발한 유클리드기하학은 정·반·합의 과정을 거쳐 우주의 구조를 밝히는 리만기하학으로 성장했다.

교과서적으로 말한다면 기하학이란 '도형의 성질을 연구하는 학문'이다. 도형에 관한 연구는 이집트 바빌로니아 등 오리엔트의 대제국에서 발생했다. 대제국을 운영하기 위해서 토지측량 토목건축 천문학 등의 분야에서 발생하는 측량계산에 관한 지식이 필요했다. '필요는 발명의 어머니'라는 말 그대로, 이들은 필요성에 대응하는 실용적인 공식을 모으기 시작한 것이다. 하지만 이들 공식이나 법칙은 어디까지나 실용적인 문제를 해결하기 위한 것이지, 논리적으로 체계화된 기하학은 아니다.

실용적 지식과 학문 사이에는 깊은 골이 있다. 개개의 지식을 일반적인 형식으로 체계적으로 정리하는 것이 곧 학문인 것이다. "A지점에서 B지점까지 가는데 도중에 장애물이 없다면 A, B 두 점을 맺은 직선이 가장 짧다." 그런 지식이라면 냇가에서 물 마시는 짐승들도 본능적으로 알고 있다. 이 사실을 두고 유클리드 기하학에서는 "삼각형의 두변의 합은 다른 한변보다 길다"라는 식으로 어마어마하게 표현했다. 기하학은 상식적인 지식을 논리학으로 정리한 것이다.

여기에는 두 종류가 있다. 도저히 증명할 수 없으며 경험을 통해서 모두가 틀림없다고 믿어지는 '공리'라고 불리는 기본명제와, 공리로부터 논리적으로 증명할 수 있는 정리다. 기하학은 이와같이 경험에서 출발했으나 차츰 경험을 무시하고 처음부터 공리를 설명하는 형식을 갖게 되었다. 다시 말해서 경험적 과학으로부터 연역적 과학으로의 변천인 것이다.

경험에서 연역으로

기하학에 있어서 기본적 명제(공리)에서 출발한 최초의 논리체계는 유클리드의 '원론'이다. 원론의 형식은 처음에는 용어에 관한 설명(정의)과 공리가 있고, 그 뒤에 정리와 그 증명, 그리고 문제와 그 해답으로 이어져 있다. 정리는 공리와 이미 증명된 정리만을 이용해서 증명되며, 공리에는 증명이 없다.

이 형식은 비단 수학뿐만 아니라, 철학을 비롯한 서구의 거의 모든 학문의 기본이 되어 왔다. '원론'은 그 후로도 약 2천년동안 의심할 여지가 없는 것으로 여겨져 온 권위였다. 중국의 사마천은 '사기'(史記) 1백30권을 저술하여 정사의 시조가 되었다. 그의 글은 완벽했고 "잘못된 글자 하나라도 발견한 사람에게는 천금을 주겠다"고 장담할 정도였다.

로고스(Logos, 理性)의 나라 희랍의 '원론'은 역사의 나라 중국의 '사기'의 권위에 필적했다. 하지만 시대의 흐름속에서 '원론'의 절대성에 대한 의심스러운 눈이 모이기 시작했다. 그것은 평행선에 관한 공리였다(그림 1). 즉 "일직선상 밖에 있는 한 정점을 지나 그 정직선에 평행한 일직선은 반드시, 그리고 꼭 한개만 존재한다."

원래 '원론'에서는 이 공리가 다음과 같이 표현되어 있다. "평면상에서 두개의 직선이 제3의 직선과 만나서 만든 각은 안쪽에 있는 내각의 합이 1백80˚보다 작을 때는, 이들 두 직선을 연장하면 안쪽의 합이 1백80˚보다 작은 쪽에서 만난다. "좀 까다로운 표현이 되었으나 이 말은 "삼각형의 내각의 합은 1백80˚이다"와 같은 것이다. 다시 말해서 다음과 같은 조건은 동치이다. "두개의 공리 A, B가 동치라는 것은 A에서 B를 유도할 수 있고 또 B에서 A를 유도할 수 있다는 뜻이며, A⇔B로 표시한다."

이 평행선의 공리에 대한 의심은 처음에는" 이 공리를 다른 공리에서 유도할 수 없을까?"라는 생각에서 시작했다. 수많은 학자가 애써 여러 방향으로 그 일을 시도했으나 결국은 허사였다. 그런데 채택된 대부분의 방법은 귀류법이었다. 귀류법이란 처음에 증명하고자 하는 사실에 반대되는 명제를 설정해 두고, 그 가정에서 모순을 유도하는 것이다. 평행선의 공리가 진이 아니라고 가정할 때는 우선 다음과 같은 것을 생각할 수 있다. 즉 평면상에서 직선밖의 한 점을 지나 그 적선과 만나지 않은 직선은 적어도 두개는 있다. 그러나 아무리 노력해도 이 가정에서는 다른 유클리드의 공리들과 모순이 생기지 않는다. 그러는 사이에 그것을 공리로 삼아도 좋다는 생각이 등장하게 된 것이다.
 

평면상 직선 밖의 한점 P를 지나는 평행선은 꼭 그리고 반드시 한 개 존재한다.

비유클리드 기학학의 등장

1826년 러시아의 수학사 로바체프스키(Lobachevski)는 유클리드의 평행선 공리 대신 평면상에서 직선밖의 한 점을 지나 이 직선과 만나지 않는 직선이 적어도 두개는 있다는 것을 채택함으로써 새로운 기하학의 탄생을 세상에 예고했다. 이 기하학에서는 삼각형의 내각의 합은 1백80˚보다 작아진다. 뿐만 아니라 평면상에서 직선 l밖의 점 P를 지나 l과 만나지 않는 직선 a와 b가 있고, a와 b가 만든 각 B내에 있는 모든 직선 b', b'', b'''는 l과 만나지 않는다(평행선은 얼마든지 있다).

로바체프스키의 기하학은 논리적으로는 전혀 모순이 없다. 하지만 처음에 등장한 것은 언제나 이상하게 보이게 마련이다. 2천년 동안이나 유클리드 기하학에 익숙해온 사람들에게는 기묘하고 비상식적인 것으로만 보였다. 로바체프스키 자신은 이 기하학의 모델을 현실의 우주속에서 구하려 했다. 그러나 당시의 천문관측에 관한 기술 수준으로는 성공할 수 없는 일이었다. 새로운 수학은 결코 한사람만이 생각하는 것이 아니다. 비슷한 생각을 하는 수학자는 하나둘이 아닌 법이다. 헝가리의 수학자 볼리야이(James Bolyai)나 가우스(Gauss)도 같은 생각을 가지고 있었다.

로바체프스키와 볼리야이의 비유클리드 기하학을 쌍곡선 기하학이라고도 한다. 쌍곡선에서 1을 직선으로 하면 (그림 2)와 같이 A를 지나 1과 만나지 않는 직선이 얼마든지 있을 수 있다. 이 단계에서는 자로 긋는 반듯한 것만이 직선이 아니라 보다 일반화하여 휘어진 곡선을 직선으로 보고 있다.
 

(그림2)쌍곡선의 기하학

이와같은 맥락에서 보면, 당연히 평면이 아니라 곡면도 평면으로 생각할 수 있다. 우주론의 차원에서는 광선(직선)은 휘어져 있다. 이에 관한 생각은 후에 현실화된다. 클라인(Klein)은 이것을 다음과 같이 정의했다.

평면상에 원 C를 그린다. 원 C의 내부를 쌍곡평면이라 하고 원둘레상의 점과 그 외부의 점을 제외한다. 원 C의 현을 쌍곡직선으로 하고, 내부의 점을 쌍곡점이라 한다. (그림 3)에서 쌍곡곡선 p와 q는 만나지 않는다(P는 쌍곡점은 아니다). 쌍곡직선 l과 k는 쌍곡점 Q에서 만나고 있다. 이 그림에서는 쌍곡직선 밖의 점 Q를 지나 쌍곡직선 a와 만나지 않는 쌍곡직선 k, l, b, b´, b˝,… 가 무한히 존재하고 있다.
 

(그림3)쌍곡평면

일단 쌍곡선 기하학의 존재가 밝혀진 이상에는 다른 원추곡선, 이를테면 타원기하학도 있을 수 있다는 생각이 자연스럽게 등장한다. 실제로 쌍곡선 기하학과는 별개의 비유클리드 기하가 있다. 우리는 유클리드 기하의 공리, 직선 밖의 한점을 지나 이 직선과 만나지 않는 직선은 반드시, 그리고 꼭 하나만 존재한다(삼각형의 내각의 합은 1백80˚)를 부정하는 쌍곡선기하의 공리, 평행선은 적어도 두개 있다(삼각형의 내각의 합은 1백80˚보다 작다)를 생각했다. 이것과는 또다른 유클리드의 부정이 있다. 즉 타원기하학의 공리이다.

직선밖의 한 점을 지나 이 직선과 만나지 않는 직선은 하나도 없다(삼각형의 내각의 합은 1백 80˚보다 크다). 이 모델을 직관적으로 생각하면 다음과 같다. 구면상의 적도 l에 두개의 대원(구면상의 가장 큰 원) a, b는 직각으로 만났으므로 평행이다. 하지만 이들은 북극과 남극에서 만난다(그림 4).
 

(그림4)유클리드기하학을 부정하는 구면기하학

리만(Riemann)은 구면기하학을 보조적으로 이용하여 타원기하학의 모델을 만들었다. 구면 S상에 두개의 점을 연결하고, 구면상에 있는 두개의 호들 가운데 호의 길이가 가장 짧은 것은 두점을 맺는 큰 원호 중 짧은 쪽이다. 지금 구면은 S평면, S평면상의 점을 S점, 큰 원(대원)을 S직선이라고 한다. 구면상의 임의의 대원은 반드시 두 점에서 만난다. 또 구면상의 삼각점의 내각의 합은 1백 80˚보다 크다. 구면기하학은 타원기하학과 거의 일치되는 것처럼 보인다.

그러나 ① S평면상의 두개의 S직선은 두 점에서 만난다. ② S평면상의 대극점 P P´를 지나는 S직선(대원)은 무한히 있다는 두개의 성질은 구면기하학이 타원기하의 성질을 충분히 갖는데 치명적인 약점이 된다. 이들을 없애고 타원기하학의 모델을 만들어야 한다. 우선 구면의 반을 잘라버리면 ①의 결점인 두개의 직선은 두 점에서 만난다는 조건을 없앨 수 있다. 또 ②의 결점을 없애기 위해서는 대극점이 하나가 되도록 하면 된다(그림 5).
 

(그림5)구면기학학의 약점을 보완한 타원기하학

또 (그림 5)의 (a)와 같이 S상에서 P P´와 Q Q´는 대극점이다. 이들 대극점을 하나의 점으로 생각해서 하나의 집합 ${P}^{2}$(추상적이지만)을 만들어 이 ${P}^{2}$을 사영평면으로 한다. (그림 5)의 (b)에 나타내는 곡면처럼 S의 절반인 반구면 ${S}^{+}$를 만들어 그 경계선인 큰 원을 Γ로 한다. Γ상에서 서로 대극점이 되어 있는 두점 A, A´: B, B´:C, C´:…이 하나가 되도록 큰 원 Γ상의 점을 붙여준다 (풀로 붙이는 것이 아니라 머리속에서). 이때 P는 쌈지처럼 닫혀진 곡면과 같아진다.

수학에서는 현실적으로 할 수 없는 것을 곧잘 머리속에서 자르고 붙인다. 마치 만화와도 같은데 그것이 수학의 묘미이며, 머리가 상식으로 굳어진 어른들보다도 상상력이 강한 어린이가 좋아한다.

이때 Γ상에 있는점 A, A´는 하나의 A가 되고 그 이외의 점 C는 그대로 C이다. 이와같이 해서 생긴 ${P}^{2}$를 타원평면이라 한다. 구면 S상의 한점이 큰 원을 따라 움직이면 이 곡선은 타원직선이라고 한다. 이때 타원평면 ${P}^{2}$의 점을 타원점이라 한다. 이와같은 전개에서 타원점과 타원직선으로 형성되는 또 하나의 비유클리드 기하학, 즉 타원기하학이 생긴다. 여기서는 두개의 타원직선(큰선)은 반드시 북극점에서 만난다.

이와같이 해서 좀 억지스럽지만 두개의 비유클리드 기하학, 쌍곡기하와 타원기하의 모델을 만들 수 있다. 원추곡선으로 비유클리드 기하학을 분류했으므로 유클리드 기하학을 포물선기하학이라고 한다.

이 사실은 직관적으로 보면 (그림 6)과 같다. 포물선은 준선 l에 대해서 한 점 P(x,y)가 주어지면 꼭지점의 위치가 결정되며, 한 점P(x,y)에 대해서는 그것을 지나는 포물선이 반드시 하나 존재한다.
 

(그림6)유클리드 기하학의 직관적 이해

정 반 합의 결론 리만기하학
 

(그림6) 아인슈타인과 휘어진 공간
 

지금까지 유클리드 기하에서 시작된 기하학이 두 종류의 비유클리드 기하학을 탄생시키는 과정을 살펴보았다. 변증법적인 법칙(正, 反, 合)을 내세우려는 것은 아니지만 이상의 사실에서 정(유클리드)→반(비유클리드)→합(리만)의 발전 양식이 기하학의 세계에도 있었음을 알 수 있다. 리만 기하학은 비유클리드적인 생각을 광범위하게 확장한 것이다.

리만은 곡면(曲面)에 휘어짐(곡률)이라는 생각을 도입했다. 한마디로 리만기하학이란 곡률을 갖는 면에서의 기하학이라 할 수 있다. 면이 전혀 휘어져 있지 않은, 곡률이 0인 경우는 보통의 평면이다. 쌍곡선 기하, 또 타원기하학은 면이 일정하게 휘어지는 경우(곡률이 0이 아닐 때 )였다. 따라서 리만기하학은 비유클리드와 유클리드 기하학을 내포하는 광대한 구상이라 할 수 있다. 알기 쉽게 정리하면 다음과 같다.

리만기하

이들은 곡률이 모두 일정한 경우이지만, 보다 일반화하며 곡률이 일정치 않은 공간, 이를테면 보통의 지도처럼 산과 바다, 그리고 평야를 포함하는 공간을 대상으로 할 수 있다. 실제 공간은 훨씬 복잡하며, 리만기하학은 그런 것에 충분히 대응한다.

곡률을 나타내는 데에는 미분이 이용된다. 미분이란 곡선의 경사, 즉 휘어짐을 계산하는 것이다. 이 단계가 된 기하학에는 도형이 무의미해진다. 추상수학의 교과서에는 숫자가 거의 등장하지 않으며, 리만기하학에는 그림(도형)이 없다.

리만기하학은 어떤 공간에 대해서도 성립할 수 있도록 해두었기 때문에 우주론, 공간론의 주무기가 되어 있다. 특히 아인슈타인의 일반 상대성원리에서는 물질의 분포상태가 우주에 곡률을 정한다는 생각이 기본이며, 따라서 리만기하학이 주무기로 사용된다. 아인슈타인은 광선은 휘어져 있으며 행성의 궤도가 고전물리학으로는 설명할 수 없는 이상한 궤도를 그린다는 것을 알았다. 태양과 그것을 중심에 둔 행성들은 각각 공간속에서 휘어짐을 지니고 있다. 때문에 이들 행성의 옆을 지나는 광선이 휘어진다. 이 사실은 일식을 이용해서 실제 별의 위치와 겉보기의 위치에 차이가 있음이 관측된 것이다. 아인슈타인도 리만기하학이 없었더라면 도저히 생각할 수 없었던 구상이다.

이집트 나일강변의 토지측량에서 시작된 기하학이 유클리드 기하학이 되고, 유클리드 기하학을 부정한 비유클리드 기하학이 드디어 우주의 구조를 밝히는 리만기하학으로까지 성장한 것이다. 이상은 순전히 기하학적인 측면에서만 본 비유클리드 기하학의 탄생 배경이었다. 그러나 비유클리드 기하학의 등장은 문화 전반에 엄청난 충격을 주었다. 특히 사상면에서 '절대진리'로 믿어왔던 평행선 공리의 부정은, 진리란 무엇이며 과연 그것은 존재하는가, 또 있다면 그것을 인식할 수 있는가 등의 여러가지 의문을 제기했다.

결국 오늘날의 수학자에게는 일반적으로 '진리(수학적)란 편리한 가설이다'(푸앙카레 )라는 믿음이 통용되고 있다.

과학동아