동아시아의 전통 수학, 산학은 왜 서양 수학에 뒤쳐졌을까?

그 동안 동아시아의 전통 수학인 산학의 여러 가지 면을 알아봤는데, 많은 주제에서 상당한 수준까지 도달했었음을 확인했다. 특히 대수학 분야는 세계 최고의 수준을 유지했다. 2천 년 이전에 이미 연립 방정식의 해법 및 양수와 음수의 계산법인 정부술을 개발했고, 7백 년 이전에 이미 임의의 고차 방정식의 근사 해법인 증승개방법을 발견했다.

동아시아의 전통 수학, 산학은 왜 서양 수학에 뒤쳐졌을까?

그런데 근세에 들어 산학은 서양 수학에 뒤쳐지기 시작했고, 현재는 서양 수학에 매몰되어 그 흔적을 찾아보기도 어렵게 됐다. 왜 이렇게 됐을까? 그 이유를 기하학 분야에 대한 산학의 빈약한 연구에서 찾는다. 도형의 넓이와 부피를 구하는 측정 문제는 있지만, 도형의 학문으로서의 기하학은 성립되지 않았다는 것이다. 즉, 산학에서는 ‘연역적 논증 기하학’이 등장하지 않았다.

산학에서는 연역적 논증 기하학이 등장하지 않았다

유클리드는 기원전 300년경에 쓴 책 <원론>에서 당시 그리스에서 연구된 기하학을 정리했는데, 몇 가지 정의와 함께 다음과 같은 다섯 개의 공준으로 시작했다.

여기서 제5 공준을 ‘평행선 공준’이라 부르는데, 이는 동치인 다음과 같은 명제로 더 잘 알려져 있다.

유클리드는 이런 공준을 이용하고 추론을 위한 다섯 가지 공리(또는 공통개념)를 이용해서 기하학에 관한 248개의 명제를 논리적이고 체계적으로 증명했다. 이렇게 소수의 일반적인 원리로부터 논리적인 절차를 밟아서 낱낱의 사실이나 명제를 유도하는 것을 연역이라 한다. 유클리드 기하학이 바로 연역적 논증 기하학의 예이다. 공준과 공리를 앞세우기 때문에 공준적 방법 또는 공리적 방법에 의한 전개라고도 한다.

유클리드가 내세운 다섯 개의 공준은 자명한 진리로 생각되었고, 이에 따라 이것들로부터 엄밀한 논리에 따라 얻은 정리(참으로 증명된 명제)도 또한 절대적인 진리로 받아들여졌다. 유클리드 기하학은 진리의 학문이었으며, 엄밀성을 추구하는 모든 학문의 기초가 됐다. 유클리드의 공준적 방법은 수학뿐만 아니라 모든 학문 분야의 귀감이 됐는데, 이를테면 뉴턴(Isaac Newton, 1642~1727)의 <자연 철학의 수학적 원리>와 스피노자(Baruchde Spinoza, 1632~1677)의 윤리학 책인 <에티카>도 유클리드의 방법을 따랐다.

수학에서 공준적 전개가 불가피한 이유

앞에서 말한 공준적 방법은 이미 발달된 학문 분야를 정리하기 위한 하나의 방편으로 보인다. 공준 또는 공리에 의지하지 않고도 수학의 한 분야를 전개할 수 있지 않을까? 그런데 19세기 전반기에 충격적이면서도 획기적인 발견이 이루어졌다. 일부 수학자가 유클리드의 평행선 공준을 다음과 같이 평행선이 두 개 이상 존재한다거나 전혀 존재하지 않는다는 공준으로 바꾸어 기하학을 전개했다.

5'.직선 l에 있지 않은 점p를 지나는 l의 평행선이 두 개 이상 존재한다.(로바체프스키 비유클리드 기하학의 공준)(왼쪽)
5'.한 평면 위에 있는 임의의 두 직선은 교차한다.(리만 비유클리드 기하학의 공준)(오른쪽)

이런 공준을 바탕으로 전개한 각 기하학을 비유클리드 기하학이라고 한다. 놀랍게도 이런 비유클리드 기하학이 수학적으로는 유클리드 기하학과 똑같은 정도로 모순이 없다는 사실이 그 뒤 밝혀졌다. 즉, 이런 기하학에 어떤 모순된 점이 있다면, 그에 상응하는 모순이 유클리드 기하학에도 반드시 존재해야 한다. 유클리드 기하학은 인류가 수천 년 동안 이용하고 연구한 학문으로, 여기에 어떤 모순이 있다고 생각하기 어렵다. 그렇다면 위의 비유클리드 기하학도 수학적으로는 유클리드와 동등한 대우를 받아야 한다.

비유클리드 기하학의 발견은 수학에 대한 견해를 본질적으로 바꿔 놓았다. 평행선 공준을 비롯해서 기하학의 공준은 ‘자명한 진리’와 관계없는 단순한 전제라는 사실이다. 이에 따라 기하학은 가설ㆍ연역적 학문으로, 인간의 창조물이며 ‘절대적 진리’가 아닌 학문이라는 사실이 밝혀졌다. 이런 말은 수학의 다른 모든 분야에도 적용된다. 추상적인 대상을 다루는 수학은 본질적으로 가설ㆍ연역적일 수밖에 없으며, 공준적 전개는 불가피하다.

리만 비유클리드기하학이 적용되는 곡면(좌),삼각형의 내각의 합이 180도가 넘는다.
로바체프스키 비유클리드기하학이 적용되는 곡면(중),삼각형이 내각의 합이 180도보다 작다.
유클리드 기하학이 적용되는 평면(우),삼각형의 내각의 합이 180도이다.

논증 기하학의 가치 – '왜'에 대한 끊임 없는 질문

기하학이 가설ㆍ연역적이라고 해서, 공준을 임의로 정할 수는 없다. 공준들이 만족시켜야 하는 중요한 성질들이 있으며, 그로부터 유도되는 결과들이 풍부하고 쓸모 있게 응용 가능해야 한다. 앞에서 알아본 유클리드 기하학과 비유클리드 기하학 중에서 “어느 것이 참된 기하학인가?”라는 질문은 의미가 없으며, “이런 상황에는 어느 것이 가장 편리한 기하학인가?”를 생각해야 한다. 아인슈타인의 일반 상대성 이론과 정상인이 인식하는 시각 공간을 설명하는 데는 비유클리드 기하학이 필요하다고 한다.

그렇지만 왜소한 인간에게 지면은 평평하게 보이고, 작은 범위의 인간 활동에서는 유클리드 기하학이 가장 유용한다. 좌표 평면과 공간이 유클리드 기하학을 기반으로 한 것이라는 사실을 생각한다면, 그리고 좌표 평면과 공간에서 이루어지는 엄청난 수학을 생각한다면, 현대 수학에서 유클리드 기하학의 효용성을 쉽게 짐작할 수 있다. 이런 유클리드 기하학은 ‘왜’에 대한 끊임없는 질문 속에 탄생했다. 한 명제의 진실성을 확인하기 위해 더욱 더 기본적이고 누구나 받아들일 수 있는 명제를 찾는 과정에서 공준과 공리에 도달했다. 공준적 방법으로 확고한 기반을 다진 유클리드 기하학은 수학과 과학의 기초로서, 근대 과학 발전에 크게 이바지했다.

기원전 100년경에 제작된 것으로 추정되는 유클리드의 <원론>일부

산학에서는 답을 중시했을 뿐, 그 이유는 경시했다

그런데 산학은 고대 농경 사회에서 실무 관리용의 실용 수학으로 고착됐다. 문제의 답을 얻는 방법(術)만을 제시할 뿐, 그렇게 하면 답을 얻게 되는 이유에 대해서는 크게 신경 쓰지 않았다. 어쨌든 수치 계산을 중요시하고 논증성·체계성을 외면했던 산학은, 공리를 기초로 한 연역적인 구성이나 수학적 증명의 이론에 대해서는 별로 관심이 없었다. 한 일본인은 산학에 대해 다음과 같이 논평했다고 한다.

"논리성의 결여 때문에 중요한 원리나 이론은 자세히 설명되지 않고, 때로는 갑자기 공리적으로 제시되고, 또 때때로 특수 문제의 해법 중에서 암시적으로 주어지기도 한다. 정의가 부정확한 것은 물론이다. 수학이 엄밀한 논리 체계를 갖출 수 없었으며, 또 기계적 계산에 의한 산술ㆍ대수 분야가 논리적 고찰의 추구를 필요로 하는 기하학에 비하여 우세를 차지한 것은 당연하였다."

선각자들이 느낀 논증기하학의 가치

그림에서 a와 c,d와 b를 각각 맞꼭지각이라 한다. a와d를 더하면 평각(180도)이다. c와d를 더해도 평각이다. 따라서 a와 c의 크기는 같다.

논증 기하학의 가치는 문학 작품 속에서도 찾아볼 수 있다. 시인이자 국문학자인 양주동(梁柱東, 1903~1977)은 중학교 기하 시간에 맞꼭지각(또는 대정각)이 서로 같다는 사실을 수학적 증명을 통해 확인하고는 수필 <몇어찌>에 다음과 같이 썼다.

"멋모르고 “예, 예.”하다 보니 어느덧 대정각(a와c)이 같아져 있지 않은가! 그 놀라움, 그 신기함, 그 감격, 나는 그 과학적, 실증적 학풍(學風) 앞에 아찔한 현기증을 느끼면서, 내 조국(祖國)의 모습이 눈앞에 퍼뜩 스쳐 감을 놓칠 수 없었다. 현대 문명(現代文明)에 지각하여, 영문도 모르고 무슨 무슨 조약에다 “예, 예.” 하고 도장만 찍다가, 드디어 “자 봐라, 어떻게 됐나.”의 망국(亡國)의 슬픔을 당한 내 조국! 오냐, 신학문을 배우리라. 나라를 찾으리라. 나는 그 날 밤을 하얗게 새웠다."

네이버캐스트