2018년 11월 28일 수요일

비유클리드기하학이란 무엇인가?

무수히 많거나 아예 존재하지 않는 평행선

유클리드(Euclid)기하학은 우리가 중고등학교 수학시간 때 배운 기하학이다. 이와는 근본적으로 다른 비유클리드기하학은 곡면의 기하학으로 알려져 있다.

알다시피 기하학은 도형의 성질을 연구하는 학문이다. 그렇다면 맨먼저 그 도형이 놓인 공간의 성격이 규정 돼야 한다. 기하학은 공간관을 전제로 하는 데 그것은 인간의 현실적인 체험에서 여과된 결과다. 그런 의미에서 '인간은 사회적 동물'이라고 한 아리스토텔레스의 말은 기하학에서도 통용된다. 사회적인 경험의 무대가 좁은 그리스의 고대도시국가, 즉 폴리스 안에서의 공간은 인간이 파악할 수 있는 확고부동한 것으로 추상화된다. 그러기에 고대 그리스의 공간은 등질적(等質的)으로 반듯반듯하고 좌우, 위아래로 시원하게 뻗은 것이었다. 당시 그리스의 수학자들은 '한 직선과 직선밖의 한 정점을 지나는 평행선은 꼭 하나만 존재한다'고 생각했다. 또 평행선이란 어디까지 가도 만나지 않는 직선이고, 인간의 공간은 유한이며 등질적인 것으로 보았다.

그러나 인간의 활동범위가 좁은 폴리스를 벗어나 대항해를 경험하게 되면서 새로 구형(球形)의 공간이 인식되었고, 나아가서 그 이상의 공간의 존재도 사유대상으로 떠올랐다.

B.C. 3백년 경에 그리스에서 살았던 유클레이데스(흔히 미국식으로 유클리드라고 부른다)가 완성시켰던 '기하학 원론'(Stoikeheia)를 바탕으로 전개됐던 유클레이데스기하학은 그후 오랫동안 기하학의 왕좌를 지키고 있었다.

사실 총 13권으로 된 '기하학 원론'은 서양에서 성서 다음으로 많이 읽힐 정도였다. 그러나 19세기에 접어들면서 이른바 비유클레이데스기하학의 강력한 도전을 받게 되었다.

물론 그 이후에도 1899년에 발표한 힐베르트의 '기하학 기초론'에 의해 새롭게 지지 되긴 했지만 이미 기하학 분야에는 양대산맥이 형성돼 있었다.

지구표면을 생각하라

기하학에는 세계 어디서나 공통적인 기본이 있다. 즉 1차원의 도형은 직선이고, 2차원의 도형은 평면 그리고 3차원의 도형은 입체라는 점이다.

한번 구(球)를 생각해 보자. 구의 중심을 지나는 평면과 구면이 만나서 생기는 대원(大圓)은 분명히 곡선이다. 그러나 이 구면을 2차원으로 생각한다면 그 위의 대원은 1차원도형으로 간주될 것이다. 즉 평면상의 직선에 해당한다. 따라서 이 구면상의 기하학에서는 종래의 기하학 정리가 성립하기 어렵게 된다.

구면을 우리가 살고 있는 지구표면이라 생각하고 북극과 남극을 지나는 두개의 대원을 그려보자.

이 두개의 대원, 즉 '직선'은 각각 적도와 직각으로 만나고 있으므로 북극을 꼭지점, 적도의 일부를 밑변으로 하는 구면삼각형의 내각의 합은 1백80˚보다 크다는 결과가 나온다. 여기서 우리는 종래의 기하학과는 다른 곡면의 기하학의 실례를 극명하게 볼 수 있다.

구 이외의 곡면, 이를테면 나팔모양의 곡면체를 비롯해 수없이 많은 곡면이 있다. 따라서 수많은 곡면의 기하학이 있을 수 있다. 이들 곡면상의 기하학을 통틀어 비(非)유클레이데스기하학이라고 부른다.
 
두개의 대원, 즉「직선」은 각각 적도와 직각으로 만난다. 따라서 북극을 꼭지점, 적도의 일부를 밑변으로 하는 구면삼각형의 내각의 합은 1백80°를 넘게 된다. 따라서 유클리드 기하학과는 다른 곡면의 기하학이 생기고…
 
제5공준이 시비거리로

유클레이데스기하학이 학문으로서 성립했던 것은 직관적으로 도형을 다루지 않고 엄격한 논리에 따라 이론체계를 쌓아 올라갔다는 점에 있다. 그러나 그 내용을 자세히 검토해 보면 몇가지 문제점이 있다. 가령 삼각형의 합동을 증명할 때 도형을 겹친다, 평면 이 직선으로 분할된다, 두 직선이 한 점에서 만난다는 등 직관적인 표현이 곧잘 등장 한다.

그리고 본래 '당연한 이치'이어야 할 공준(公準)속에 그렇지 않은 것이 포함돼 있어서 늘 말썽이었다. 공준이라는 것은 그것을 바탕으로 해 전개되는 모든 서술에 조금도 모순이 일어나지 않도록 처음부터 내세우는 조건이다. 즉 그 토대 위에 기하학 전체가 세워지는 기본적인 출발점이 되는 가정이다.

여기서 유클레이데스기하학의 다섯가지 공준을 적어보면 이렇다. 첫째 임의의 점에서 임의의 점까지 하나의 직선을 그을 수 있다. 둘째 한정된 직선을 연장해 하나의 직선을 그을 수 있다. 셋째 임의의 중심 및 반지름으로 원을 그릴 수 있다. 넷째 직각은 모두 같다. 다섯째 한 직선이 두 직선과 만나서 그 한쪽의 두 내각의 합이 두 직각보다도 작을 때는 그 두 직선을 연장하면 내각의 합이 두 직각보다도 작은 쪽에서 만난다.

이중에서 마지막 '평행선의 공준'은 너무 복잡해 마치 정리처럼 보인다. '그렇다면 제 5공준은 증명도 가능하지 않을까'라는 생각을 오래 전부터 해왔다. 실제로 유명 무명의 수학자가 다섯번째 공준에 대한 '증명'을 시도했으나 만족스러운 것은 하나도 없었다.

그래서 수학자들은 방법을 달리해 보았다. 이 공준을 부정했을 때의 모순점을 찾아내는 간접적인 증명법을 써본 것이다. 그 결과는 예상 밖이었다. 모순이 일어나기는 커녕 그 부산물로 새로운 명제(=정리)가 쏟아져 나왔다. 곧 수학자들은 이것들을 하나로 엮으면 유클레이데스기하학과는 딴판인 새로운 기하학의 체계가 이루어진다는 것을 알았다.

독일의 철학자 칸트는 유클레이데스기하학이 의심할 여지없는 명백한 진리라고 믿었지만 비유클레이데스기하학이 등장하면서 그의 확신은 무너지고 말았다. 비유클레이데스기하학의 출현은 수학 내부에서의 변화 뿐만 아니라 인간의 사고의 역사에 전환기를 가져온 대사건이었다. 이 비유클레이데스기하학이라는 말은 천재 수학자 가우스가 작명했다.

유클레이데스의 제5 공준을 알기 쉽게 고치면 "직선 L과 그 직선 위에 있지 않은 점 P가 있을 때 P를 지나면서 L과 만나지 않는 직선은 꼭 하나 있다"가 된다.

수학자 볼리야이(1802년~1860년)와 로바체프스키(1793년~1856년)는 이것을 다음과 같이 고쳤다.

"직선 L과 그 위에 있지 않은 점 P가 있을 때, P를 지나면서 L과 만나지 않는 직선은 적어도 두개가 있다."(사실은 '무수히 많다'고 한 것이지만….)

그리고 "삼각형의 내각의 합은 두 직각 보다 작고 각 변의 길이가 커질수록 작아지며 길이가 무한대로 되면 마침내 내각의 합은 0이 되고 만다"고 했다.
로바체프스키가 설정한 공리는 종래의 상식적인 기하학에 익숙한 사람들에게는 이상스러운 감을 준다. 그러나 이것을 곡면상의 현상으로 생각하고 직선을 '곡면상의 직선', 즉 측지선(測地線, 곡면상의 두점을 지나는 곡선 중에서 길이가 최소인 것, 구면상에서는 대원의 일부)이라고 가정한다면 신기할 것은 전혀 없다. 사실 로바체프스키의 기하학은 '마이너스의 곡률'을 갖는 모든 공간에 해당하는 기하학이다.

상대성이론도 비유클레이데스를 지지해

그런데 이러한 의문을 가진 사람도 있을지 모른다.

"글쎄 그럴 듯 하기는 하지만 그렇게도 생각할 수 있다는 것뿐이지, 우리가 살고 있는 공간세계와는 하등 관계가 없는 기하학이 아닌가."

여기서 잠깐 로바체프스키 자신의 말을 들어보자.

"기하학적 사실은 물리학상의 법칙과 마찬가지로 실험에 의해 검증돼야 한다. 추상적인 개념은 그것만으로는 아무 의미가 없고 현실세계와 관련지어 해석할 수 있는 것이어야 한다. 즉 실험이 꼭 뒤따라야 하며, 단순한 논리적 추측만으로는 불충분하다."

그렇다. 볼리야이나 로바체프스키의 이론은 단순히 논리적 체계를 위해서만 만들어진 것이 아니고 현실세계에 대한 깊은 통찰에 따른 것이었다. 유클레이데스기하학은 우리 주변의 공간의 성질을 충분히 그리고 정확히 반영하고 있는 것이 사실이다.

좀더 시야를 넓혀서 지구표면 전체나 은하계 전체의 공간을 생각한다면 유클레이데스기하학은 쓸모가 없어진다. 현대 물리학 분야, 특히 상대성이론을 통해서도 비유클레이데스기하학의 '현실성'이 명확하게 증명됐다. 실제로 대폭발(Big Bang)이후 무한히 팽창되는 우주나 검은 구멍(Black hole)에 빨려가는 우주의 모습은 비유클레이데스 공간의 모양이 된다.

한편 리만(G. F. B. Riemann, 1826년~1866년)의 비유클레이데스기하학은 한마디로 직선 밖의 한점을 지나서 이 직선에 평행인 직선은 존재하지 않는다는 기하학이다. 그는 직선은 길이가 한정돼 있고 닫혀져 있다는 가정하에서 자신의 이론을 펼쳐 나가고 있다.

이 기하학의 모형을 유클레이데스 공간에서 나타내면 앞에서 설명한 구면기하학이 된다.

리만기하학에서는 하나의 구면을 가정해 이것을 '평면'이라고 하고 그리고 구면상의 대원, 즉 중심 0를 지나는 선을 '직선'이라 고 부른다.
 
로바체프스키와 볼리야이가 비유클레이데스 기하학을 설명하는 그림
 
삼각형의 안각의 합이 서로 다르다

이때 구면상의 임의의 점 P와 구의 중심 0에 대한 대칭점 P′를 같은 것으로 간주 한다. 즉 P와 P′를 합쳐서 한점으로 본다. 물론 다른 모든 '점'도 이와 같이 다루고 있다. 만일 P와 P′를 다른 점으로 간주하면 두 점을 지나는 직선이 무수히 많아지게 돼 "두개의 서로 다른 점은 항상 하나의 직선을 결정한다"는 공리에 어긋나기 때문이다.

지금까지 우리는 평행선에 관해서 서로 상반되는 공준을 가진 세가지 기하학을 살펴 보았다.

요컨대 유클레이데스기하학에서는 평행선은 하나 밖에 없다고 말하며, 로바체프스키와 볼리야이는 평행선이 둘 있다(결국 무수히 많이 존재한다.)고 주장한다. 또 리만은 평행선은 존재하지 않는다고 믿고 있다.

그중 로바체프스키와 볼리야이 그리고 리만의 기하학이 비유클레이데스기하학이다. 둘을 구분해 각각 쌍곡선적 기하학, 타원적 기하학이라고 부르기도 한다.

이 기하학들의 차이를 다음과 같이 나타낼 수 있다. 즉 삼각형의 안각의 합이 서로 다르다.

∠A+∠B+∠C=π(유클레이데스) ∠A+∠B+∠C<π(로바체프스키와 볼리야이) ∠A+∠B+∠C>π(리만).

또 곡률을 M이라 할 때 유클레이데스기하학에서는 M=0(곡률이 0, 평면)인 반면 로바체프스키와 볼리야이기하학에서는 M<0(곡률이 마이너스, 나팔형의 곡면체)이고, 리만기하학에서는 M>0(곡률이 플러스, 구면) 이다.

마지막으로 이 세가지 기하학은 결코 같은 방법으로 체계화된 것이 아님을 분명히 해 둔다. 볼리야이와 로바체프스키의 기하학은 말하자면 종합법에 의해 형성된 것이지만 리만기하학은 처음부터 해석적인 것이었다. 리만 이후 수많은 천재의 손을 거쳐서 근대기하학의 기초가 닦여졌다.
 
우클리드, 리만, 로바체프스키와 볼리야이^우클리드 도형의 곡률은 0, 리만도형의 곡률은 플러스, 로바체프스키와 볼리야이의 곡률은 마이너스다.
 


과학동아 

댓글 없음: