휘어진 공간을 이용한 새 기하학

축구장에 파릇파릇하게 나 있는 잔디는 넓은 띠 모양으로 구분되어 보여 마치 작사각형이 그려 놓은 듯하다. 축구장에 앉아 있다가 우주선을 타고 점점 축구장에서 멀어지고 있다고 생각해보자. 점점 멀어져 지구가 축구공만한 크기로 보일 때까지 멀리 갔다고 하자.
상상이 잘 안된다면 축구공을 끌어안고 지구라고 생각하자. 축구장의 잔디가 그려내는 직사각형은 어떻게 보이는가? 조금 전까지는 편평한 직사각형이었던 축구장의 잔디무늬가, 아니 축구장 전체가 이젠 둥글게 휘어진 곡면 위에서의 사각형으로 바뀌어 있지 않은가?
그것은 축구공 위에 직사각형을 그려, 아니 그릴 필요도 없이 축구공 위의 오각형, 육각형 무늬를 보면서 확인할 수 있다. 아무리 곧은 직선으로 도형을 그리려고 해도 축구공 위에서는 곡선 밖에 그릴 수 없다.
축구공을 지구에 비유한다면 축구공을 보고 있는 우리는 태양계를 벗어날 정도로 큰 거인이다. 거인의 눈에는 지구의 둥근 모습이 그대로 보이고 따라서 지구에는 직선을 그릴 수 없다. 그럼 도대체 직선이란 무엇일까.

축구공 위의 오각형은 직선이 아닌 곡선으로 이루어져 있다. ⓒ ScienceTimes

유클리드의 다섯 가지 공리  
우리는 직선이란 똑바로 그어진 선이라고 생각하고 있다. 학교를 졸업할 때까지 책에 나오는 직선은 항상 똑바로 그어져 있으며 곡선은 구부러져 있다. 그런데 우리가 학교에서 배운 도형에 관한 지식이 책상 위와 같이 작은 평면에서 그릴 때는 사실이지만 지면에 그릴 때는 거짓말이 된다면 얼마나 황당한 일인가.
이런 고민을 처음 한 것으로 알려진 사람은 이탈리아의 사케리(Saccheri, 1667~1733)다. 사케리도 다른 수학자들과 마찬가지로 ‘원론’을 읽으면서 도형에 대한 연구를 하였다. ‘원론’은 고대 그리스의 수학자 유클리드가 남긴 도형에 대한 책으로 당시까지 연구된 도형에 대한 연구를 담아놓은 책이다.
그런데 이 책에서는 어느 점에서나 직선을 그을 수 있다고 했지 직선이 무엇이라는 설명은 하지 않는다. 그 이유는 아주 간단하다. 우리가 용어를 반드시 정의한 후에 사용하려 한다면 그 정의에 들어 있는 말을 또 다시 정의해야 한다. ‘직선을 곧은 선’이라고 정의한다면 ‘곧은’이 무엇인지 정의해야 한다. ‘곧은’을 ‘휘어지지 않은’이라고 정의하려면 ‘휘어지지 않은’을 다시 정의해야 한다.
이 과정이 끝날 수 있을까? 이렇게 계속 간다면 정의 자체를 할 수 없는 일이 벌어질 것이다. 그래서 유클리드는 점, 선, 면 등의 기본 용어는 정의하지 않고 사용할 수밖에 없었던 것이다.
교과서에는 직선이라는 말은 수십 번 나오지만 아무리 뒤져봐도 직선은 이것이다라는 명쾌한 설명은 없다. 두 점 ㄱ, ㄴ을 그려놓고 이 두 점을 지나는 직선을 ‘직선 ㄱㄴ’이라고 한다는 말만 있을 것이다. 이런 것을 무정의용어라고 한다. 점, 직선, 면 등은 정의를 하지 않는 용어이다. 삼각형은 세 변으로 이루어진 도형이라고 정의하지만 직선은 그냥 직선일 뿐이다.
유클리드는 무정의용어를 사용한 것과 비슷한 이유로 다섯 가지를 공리로 정하여 도형에 대한 연구의 출발점으로 삼았다. 공리는 약속과 비슷한 것으로 도형에 대한 연구에서 모두 인정하고 시작하자는 내용이다. 사케리는 이 중 마지막 공리에 의심을 품은 것이다. 다섯 가지 공리는 다음과 같다.
△어느 점에서나 임의의 직선을 그을 수 있다. △유한한 길이의 직선은 계속 연장하여 그을 수 있다. △ 한 점을 중심으로 유한한 길이의 반지름을 가진 원을 그릴 수 있다. △모든 직각은 서로 같다. △두 직선이 한 직선과 만날 때 한 쪽 내각의 합이 직각의 2배보다 작은 경우, 두 직선을 계속 연장하면 이은 내각의 합이 직각의 2배보다 작은 쪽에서 만난다.
네 가지 공리는 분명하고 간단한데 비해 다섯 번째 공리는 길고 복잡해 보인다. 사실 다섯 번째 공리는 직선 밖의 한 점을 지나면서 이 직선에 평행한 직선은 오직 한 개뿐이라는 것과 같은 내용이다. 그래서 이것을 평행선 공리라고도 부른다.
원론이 발표된 이후 19세기에 이르도록 사케리뿐만 아니라 많은 수학자들이 평행선 공리를 증명하려고 노력하였다. 사케리가 그들과 다른 점은 다섯 번째 공리를 부정함으로써 모순을 얻어내기 위해 애를 쓰는 과정에서 새로운 결과를 얻었다는 것이다. 그러나 사케리는 자신이 얻은 결과를 유클리드의 다섯 번째 공리와의 모순을 얻지 못했다는 이유로 모두 버렸다. 오로지 다섯 번째 공리를 증명하겠다는 목표에 몰두한 나머지 안타깝게도 새로운 기하학의 코앞에서 그 문을 열지 못하였다.
새로운 기하학의 세계로
새로운 기하학의 문을 열어젖힌 사람은 독일의 가우스(Gauss, 1777년~1855년), 러시아의 로바체프스키(Lobachevskii, 1792년~1856년), 헝가리의 보여이(Bolya, 1802년~1860년)다. 가우스는 평생 발표하지는 않았지만 평행선 공리를 부정하면 모순이 생기는 것이 아니라 새로운 기하학이 생긴다는 것을 알아챈 최초의 사람이라고 여겨진다.
보여이는 1832년 26쪽짜리 논문으로 처음으로 이 사실을 발표한 사람이다. 이들이 각자 독립적으로 알아낸 것은 평행선 공리를 부정하면 그동안의 기하학에 관한 지식이 무너지거나 모순이 생기는 것이 아니라 새로운 기하학이 생긴다는 것이다. 즉 직선 밖의 한 점을 지나며 이 직선에 평행한 직선이 없는 경우, 한 개보다 많은 경우 각각 새로운 기하학이 생긴다는 것이다.
새로운 기하학에서는 직선은 두 점을 잇는 가장 짧은 선으로 정의된다. 지구 표면에서 두 지점을 잇는 가장 짧은 선은 비행기 경로로 추측할 수 있다. 서울과 요하네스버그 사이의 항공노선은 평면지도에서는 구부러진 곡선으로 보여 먼 거리를 돌아가는 것처럼 보이지만 지구본에서 살펴보면 최단거리임이 확실하다.
바로 이런 항로가 구면에서의 직선이며, 이것은 원의 중심이 구의 중심과 같은 원(대원)이다. 즉, 경도와 같은 선이 구면에서는 직선이 되는 것이다. 따라서 구면 위에서는 직선 밖의 한 점을 지나며 이 직선에 평행한 직선이 없게 된다.
지구 위의 삼각형  
거인이 지구 위에 삼각형을 그리면 구면 위에서의 직선을 따라 그리게 되므로 그림과 같이 경도, 적도를 따라 그릴 수 있다. 그리고 이때의 삼각형의 세 내각의 합은 180도보다 커진다.
만약 지구와 같은 구면 위에 원을 그리면 원주율은 3.141592…보다 작아진다. 극단적으로 적도라는 원을 생각하면 지름은 지구를 뚫고 지나가는 것이 아니라 적도 위의 한 점에서 출발하여 경도를 따라 극지방을 지난 후 반대편 적도에 이르는 선이 된다. 따라서 지름은 원주의 절반이 되어 원주율은 2가 된다.

구와 같은 구면 위에 원을 그리면 지름은 원주의 절반이 되어 원주율은 2가 된다.

유클리드의 다섯 번째 공리에 관한 의심에서 출발한 기하학의 기초에 대한 연구는 2천여 년이 지난 후에 공리라는 것은 그 내부에서 모순만 없으면 되지 쉽고 간단할 필요가 없다는 패러다임의 전환을 이루면서 새로운 기하학을 만들어 내었다. 그리고 이 새로운 기하학 덕분에 인간은 휘어진 공간을 다룰 수 있게 되었다.
새로운 기하학이 발표된 지 약 60년 뒤, 아인슈타인(Einstein, 1879~1955)은 우주가 평평하지 않고 중력에 의해서 휘어있음을 보이게 된다. 일반상대성이론은 공간에 대한 기초 이론을 비유클리드 기하학에서 찾았다. 이처럼 유클리드의 다섯 번째 공리에 관한 의심에서 출발한 비유클리드 기하학은 미시공간과 극대 공간을 해석하는 이론으로 폭넓게 사용되고 있다.

• ScienceTimes