휘어진 시공간’은 어떻게 증명한 걸까

상대성이론 100년사 ➌

‘지붕에서 떨어지는 사람은 중력을 느낄 수 없다.’ 일반상대성이론의 출발점이 된 아인슈타인의 유명한 사고실험이다. 그는 중력효과와 가속도효과를 구분할 수 없으므로 중력과 가속도는 같다고 생각했다(등가원리). 이런 좋은 아이디어를 가지고 있으면서도 아인슈타인은 어떻게 중력을 이론으로 설명할지 한동안 전혀 감을 잡지 못했다. 중력을 나타내는 함수가 문제였다. 이제까지 중력을 나타낸다고 생각한 단순한 실수값 함수는 새로운 이론을 담기에 역부족이었다. 그에겐 새로운 수학이 필요했다.

돌파구는 대학 동창에게서 나왔다. 친구 마르셀 그로스만은 당시 모교인 스위스 취리히공대 수학과 교수로 있었다. 아인슈타인에겐 대학 시절에 배운 가우스의 곡면이론이 중요하리라는 직관이 있었지만, 가우스 이후의 미분기하학은 전혀 모르고 있었다. 미분기하학은 미적분학을 이용해 곡선이나 곡면을 살피는 기하학의 한 분야다. 아인슈타인이 그로스만에게 등가원리를 구현할 수 있는 이론이 필요하다고 말하자, 그로스만은 리만과 크리스토펠과 리치가 정돈한 ‘리만 기하학’이라는 새로운 미분기하학을 가르쳐 주었다.

유클리드 기하학의 약점

리만 기하학을 이해하려면 일단 유클리드 기하학부터 이야기를 시작해야 한다. 유클리드 기하학은 그리스 시대부터 많은 수학자들이 엄밀하고 올바른 지식체계라고 생각한 이론이었다. 공리 5개에 무정의용어 10개를 합친 공준 15개가 있고, 이로부터 엄격한 연역적 논증을 통해 증명한 정리 465개가 있다. “두 점을 모두 지나는 직선은 하나다”, “모든 직각은 똑같다”와 같은 공리를 우리가 믿는다면, 여기서 유도된 정리들은 의심할 필요가 없는 옳은 지식이 된다.

그런데 유클리드 기하학에는 약점이 하나 있었다. 흔히 ‘평행선 공리’라고 부르는 다섯 번째 공리였다. 굉장히 긴 문장인데, 쉽게 설명하면 이렇다. “주어진 직선에 놓여 있지 않은 한 점을 지나며 그 직선과 평행한 직선은 단 하나다.” 유독 긴 문장이라, 공리가 아닌 정리인 것 같다는 의심이 든다. 많은 수학자들이 이 평행선 공리를 다른 네 공리로부터 유도하려고 노력했고, 성공했다고 발표하기도 했다. 하지만 실상 성공한 사람은 없었다. 증명과정에서 자신도 모르는 새 평행선 공리와 동등한 다른 주장을 포함시켰기 때문이다. 가령 직접 평행선 공리를 가정하지는 않았지만, 삼각형의 세 내각의 합이 180°임을 이용하거나 원주의 길이와 지름의 비가 원주율(3.141592…)임을 이용했는데, 이것은 평행선 공리와 동등하다. 증명을 하는 과정에서 증명돼야 할 주장을 포함시켜 버렸기에 타당한 증명이 아니었다.

수많은 실패가 잇따르자 근본적으로 새로운 시도가 시작됐다. 다섯 번째 공리가 꼭 필요한 경우도 있지만, 상당한 경우에 다섯 번째 공리가 다른 공리들과 역할이 다르다면 아예 네 가지 공리만 가지고 완결된 기하학 체계를 만들 수 없을까 하는 생각이었다.

평행성 공리 없는 기하학 

이 이야기의 중심에는 위대한 독일의 수학자 칼 프리드리히 가우스가 있다. 가우스는 정수론, 천체역학, 전기와 자기의 연구, 천문학, 함수론, 복소수론, 통계학 등 여러 분야에서 중요한 업적을 남겼지만, 특히 구면기하학을 깊이 연구했다. 구면 위의 기하학에서는 직선이 ‘대원’뿐이다. 대원은 지구본의 경도선처럼 구와 같은 반지름을 가지는 원이다. 이 경우 어느 직선 밖의 한 점을 지나는 직선은 모두 그 직선과 만날 수 밖에 없다. 따라서 평행선은 존재하지 않는다. 가우스의 곡면이론은 일종의 비(非)유클리드 기하학으로 볼 수 있다.

가우스가 비유클리드 기하학의 가능성을 탐구한 것은 1800년대 초부터였던 것으로 짐작된다. 게를링이나 슈마허 같은 동료 수학자들에게 보낸 편지에서 이를 확인할 수 있다. 특히 괴팅겐 대학 시절부터 우정을 지켜온 헝가리의 수학자 보여이 파르카시와 주고 받은 편지에서 이 문제를 자주 거론했다. 하지만 가우스는 그에 대해 아무런 논문도 발표하지 않았다. 가우스는 파르카시의 편지와 그의 책 ‘텐타멘’을 받았다. 파르카시는 평행선 공리를 나머지 네 공리들로부터 유도하는 일에 엄청난 열정을 갖고 있었다. ‘텐타멘’에는 파르카시의 아들 보여이 야노시가 쓴 26쪽짜리 증명이 부록으로 담겨 있었다. 평행선 공리가 다른 공리들과 독립된 것이며 평행선 공리가 없는 별도의 기하학 체계가 존재한다는 것을 증명하는 내용이었다. 파르카시는 아들의 연구를 충분히 이해하지는 못했던 것으로 보이지만, 그 내용에 대해 가우스에게 평가를 부탁했다. 가우스는 이에 대해서도 한 마디 언급을 하지 않았다.

사실 가우스는 아주 일찍부터 평행선 공리에 관심을 갖기 시작했다. 1817년에 올베르스에게 보낸 편지에 이런 내용도 있다. “나는 점점 더 유클리드 기하학의 필연성을, 인간의 이성으로도 인간의 이성에 대해서도 증명할 수 없다는 확신을 얻게 되었습니다. 어쩌면 다른 세상에서는 공간의 본성에 대한 통찰을 얻을수 있게 될지 모르지만 지금은 아닙니다.” 1824년 무렵에는 평행선 공리를 도입하지 않는 기하학이 완결될 수 있음을 이미 증명한 상태였던 것으로 추측된다. 하지만 이미 가장 저명한 수학자의 반열에 있던 가우스는 자신의 증명을 세상에 발표하지 않았다.

비유클리드 기하학을 공식적으로 가장 먼저 발표한 것은 러시아의 수학자 니콜라이 로바체프스키였다. 로바체프스키는 1829년 비유클리드 기하학의 한 형태인 쌍곡선 기하학을 발표했는데, 러시아어로 쓴 이 논문은 거의 주목을 받지 못했다. 1840년에 독일어로 쓴 논저를 가우스에게 보낸 뒤에야 비로소 로바체프스키의 새로운 연구가 학계의 관심을 끌기 시작했다. 1868년 이탈리아의 수학자 에우제니오 벨트라미가 평행선 공리를 다른 공리들로부터 증명할 수 없다는 것을 증명하는 데 성공함으로써, 평행선 공리의 독립성은 이제 확립된 사실로 받아들여지고 있다.


리만 기하학과 휘어진 시공간

보여이와 로바체프스키의 이론을 포함해 비유클리드 기하학을 집대성한 것은 독일의 수학자 베른하르트 리만이다. 그는 가우스의 제자였다. 독일은 박사학위를 받은 뒤에도 대학에서 강의를 하려면 교수인정학위를 더 받아야 했다. 가우스가 세상을 떠나기 꼭 1년 전 제자 리만에게 교수인정학위로 부과한 주제는 기하학의 기초에 관한 것이었다. 1854년 28살의 리만은 괴팅겐 대학에서 ‘기하학의 바탕에 있는 가설들에 관하여’란 제목으로 논문을 발표했다. 불과 마흔 살에 세상을 떠난 리만은 수학에서 많은 업적을 남겼지만, 가장 큰 업적은 바로 이 논문이 탄생시킨 리만 기하학이다.

독일의 수학자 엘빈 브루노 크리스토펠은 리만 기하학을 더 확장했다. 이탈리아의 수학자 그레고리오 리치-쿠르바스트로와 그의 제자 툴리오 레비-치비타는 절대미분해석학이라고도 불리는 텐서 해석학을 만들어냈다. 이것은 텐서라는 특별한 수학적인 양을 이용해 미분과 적분을 탐구하는 수학의 한 분야다.

아인슈타인은 1912년 7월에서 8월초에 이르는 시기에 중력을 연구하기 위해 리만 기하학과 텐서 해석학을 직접 이용하기 시작했다. 유클리드 기하학에서는 두 점 사이의 거리가 이른바 피타고라스의 정리에 따라 정해지지만, 비유클리드 기하학에서는 거리라는 개념 자체를 새롭게 정의해야 한다. 리만 기하학에서 거리는 거리함수 텐서 또는 메트릭 텐서라 부르는 수학적인 양으로 정의된다. 중력은 거리와 위치에 따라 달라지므로, 중력효과(또는 비관성계에서만 나타나는 효과)를 의미하는 수학적인 양은 틀림없이 이 거리함수 텐서와 관계있을 거라고 아인슈타인은 생각했다. 구면 위에서는 두 직선(대원)이 반드시 만나기 때문에 평행선의 공리가 성립하지 않는 것처럼, 리만 기하학과 같은 비유클리드 기하학에서는 대개 휘어진 곡면 또는 공간이 중심적인 개념이 된다. 일반상대성이론에서 가장 흔히 등장하는 개념 중 하나가 휘어진 시공간인 까닭은 바로 시간과 공간에서 평행선의 공리가 성립하지 않기 때문이다.

이제 드디어 일반상대성이론의 탄생이 눈앞에 다가 오고 있었다. 과연 리만 기하학을 사용하면 등가원리를 잘 확립된 이론으로 끌어올릴 수 있을까? 리만 기하학을 탄탄하게 준비한 아인슈타인은 1915년에 어떻게 중력과 세계에 대한 가장 근본적인 이론을 만들어낼 수 있었을까? 이것이 우리가 다음에 살펴볼 주제이다.

과학동아