선·평면·입체 외 또다른 차원

정사각형의 넓이가 하나의 곡선이라고 생각한 사람은 아무도 없었다. 유클리드 기하학에서 '선분은 폭이 없는 것'이므로 그것이 아무리 모아져도 넓이를 갖는 평면은 만들 수 없는 것이 상식이다. 그러나 1890년 이탈리아의 페아노는 '점의 궤적'으로 평면을 그릴 수 있음을 증명했다.

19세기 말 칸토르(Cantor)는 무한의 수학(집합론)을 창설했다. 이는 신의 영역으로만 여겨온 무한의 본질에 도전하는 것이며 엄청난 지적 모험이었다. 오래도록 수학자는 조심스럽게 무한을 피했었다. 하지만 수학은 무한을 끝내 외면할 수 없었다. 무한대 무한소 무한급수… 등 무한의 그림자는 집요하게 수학자의 앞길에 등장했다.

무한론의 시작

로고스(논리, 이성)를 신봉한 그리스인은 유한의 울타리를 굳게 지켰다. 그들에게 평행선은 '어디까지 가도 만나지 않는 두 직선'이었다.

이때 '어디까지'라는 주체는 인간이며 인간은 유한의 존재이기에 갈수 있는 범위는 결국 유한하다. 만일 유한의 경계를 벗어 날수 있는 '초월자'의 능력을 가진 자가 어디까지 간다면 결국 무한세계일 것이다. 1, 2, 3… 아무리 셈해도 유한의 수다. 하지만 이 수들을 다음 단계로까지 셈할 때에는 무한의 수가 나타나야 할 것이다.

이처럼 칸토르는 무한을 셈하는 방법을 고안했다. 하지만 그 셈법은 결코 어려운 것이 아니다. 이는 평소 유한의 대상에 대해서 늘하고 있는 1대1 대응 방식에서 출발했다. 교실 안에 있는 학생의 집합 M, 교실 안의 책상의 집합 N에서 학생 하나에 책상 하나를 대응시킬 때 결석생이 없을 때에는 M과 N의 사이에 1대1 대응이 성립한다. 돌이켜보면 보통 우리가 수를 셈하는 일은 유한개의 대상을 자연수의 일부에 대응하는 일이다. 이를테면 3개의 물건에는 {1, 2, 3}의 수가 대응한다. 칸토르는 이 방법을 무한대상에 그대로 이용한 것이다.

아프리카 토인의 계산법에는 수가 필요 없다. 목축으로 생계를 유지하는 그들은 저녁때가 되면 축사에 돌아오는 수백 마리의 양떼 속에 길 잃은 양이 있는가의 여부를 확인한다. 그들은 울타리 문앞에 서서 그들 나름대로 셈을 한다. 한 마리가 돌아올 때마다 작은 돌멩이를 하나씩 주머니에서 꺼내 앞에 놓는다. 이와 같이 해서 돌멩이의 개수와 양에 1대1 대응을 시킨 후 주머니 속에 돌멩이가 남아 있는가의 여부로서 모든 양이 무사히 돌아왔음을 확인한다.

무한에 대해서는 그냥 무한이지 그 종류나 대소의 구별이 없다고 생각하고 있을 때 칸토르는 이 상식을 깨뜨리는 내용을 1대1 대응 이라는 간단한 방법으로 이끌어 냈다.

상식의 마개

만일 M이라는 집합이 자연수 전체의 집합 {1, 2, 3…}에 1대1 대응이 성립한다면 M은 자연수와 '같은 정도의 무한'이다. 이것을 같은 농도(濃度)를 갖는다고 말하며, 특히 자연수의 농도를 헤브루문자${א}_{0}$로 표시하며 aleph zero로 읽는다. ${א}_{0}$ 는 번호를 붙일 수 있는 집합, 즉 가부번(可付番) 집합이라고 한다. 이때 무한세계에서는 유한세계에서 있을 수 없는 중대한 사실이 발생한다. 즉 "부분이 전체와 같을 수 있다"는 것이다.

E={2, 4, 6, 8…}인 짝수의 집합은 분명히 자연수의 집합 N={1, 2, 3, 4…}의 부분에 불과하다. 하지만 E와 N은 1대1의 대응이 가능하며 따라서 같은 농도를 갖는다. E는 N과 같은 농도 ${N}_{0}$를 가지며 곧 가부번집합이다.

E  : 2,  4,  6, · · · · · · 2n · · · · · ·

    ↕ ↕ ↕        ↕

N : 1,  2,  3, · · · · · · n · · ·
 

자연수 다음에 등장하는 것은 유리수(분수)다. 분수 가운데 특별히 분모가 1인 것만을 생각한다면 그것은 자연수가 되는 것이므로 자연수 전체는 분수 전체 집합의 부분 집합이 된다. 이 사실은 다음과 같이 직선상에 수를 나타내면 금방 알 수 있다.
 

자연수

자연수는 다음과 같이 1의 간격으로 띄엄띄엄 배열돼 있다. 하지만 분수는 직선상에서 아무리 짧은 부분을 잡아도 그 속에 들어 있다.
 

가부번집합

그러나 놀랍게도 분수 전체의 집합은 자연수의 집합과 1대1 대응이 가능하며, 따라서 같은 가부번집합이다.

다음 그림처럼 가로 세로의 눈이 무한으로 뻗어 있는 모눈종이를 생각해 그 위에 분수를 배열해 보자. 이때 분수를 분모로 분류한다. 분모가 1인 것은 첫째 칸에, 분모가 2인 것은 둘째칸… 이와 같이 하면 결국 모든 분수는 하나의 칸에 들어가게 된다.
 

분수배열

이것들과 자연수의 집합 {1, 2, 3…} 사이에는 과부족 없이 1대1 대응이 가능하다. 자연수를 분수가 들아 있는 칸에 하나씩 배부할 수 있다는 말이다. 다음은 자연수가 위 그림 속에 들어 있는 분수를 차례로 방문하는 방법이다.
 

자연수와 분수전체의 집합

이때 $\frac{2}{2}$, $\frac{3}{3}$,… 등은 실질적으로 1과 같은 것이므로 그냥 넘어간다. 이런 방법으로 자연수와 분수 전체의 집합이 같은 농도를 가짐을 알 수 있게 된다.

자연수 전체와 분수 전체가 같은 농도를 갖는다는 사실에서 성급하게 "모든 무한집합은 모두 자연수와 같은 농도를 갖는 것"이라고 추측하기 쉽다. 그러나 사실은 그렇지 않다. 그 이상의 농도를 갖는 집합이 있다. 그것은 0에서 1까지의 선분상의 점의 집합이다. 그것은 귀류법(歸謬法:반대되는 주장으로부터 모순을 이끌어내는 논법)이라는 논리를 이용한 증명이다.

우선 선분상의 점이 {1, 2, 3…}과 과부족 없이 1대1의 대응이 됐다고 하자. 선분상의 점은 다음 그림과 같이 모두 0보다 크고 1보다 작은 소수로 나타낼 수 있다.
 

소수

가정에 따라 이들 수와 자연수 사이에 1대1 대응이 가능했던 것이므로, 이들 소수에는 다음과 같이 번호가 붙는다.
 

번호가 붙은 소수

그러나 이들 오른편에 있는 소수에 포함되지 않은 0과 1사이의 또 다른 소수가 있다. 이들 소수의 대각선상에 있는 수에 주목하라. 이 수를 1373…으로 새로운 소수 0.1373…을 만들고 이 소수의 각 자리 수에 1을 더한 제3의 소수, 즉 0.2484… 라는 소수를 만들어 낸다. 이 소수는 이들 소수에는 포함돼 있지 않다. 왜냐하면

1에 대응하는 소수는 첫번째 자리가 그것과 다르며 (1≠2)
2에 대응하는 소수는 두번째 자리가 다르며 (3≠4)
3에 대응하는 소수는 세번째 자리가 다르며 (7≠8)

이런 식으로 해서 이 소수는 위 소수의 어느 것과도 다르다. 즉 번호가 붙지 않은 소수는 얼마든지 무한히 찾아낼 수 있다는 것이다. 칸토르는 이 증명법을 대각선논법이라 이름 지었다.

연속체가설

0과 1사이에 있는 소수 전체의 농도를 ${א}_{1}$이라 표시한다. 길이 1인 선분에 관해서 말했으나 직선 전체의 농도도 선분상의 것과 같은 ${א}_{1}$의 농도를 갖는 것이다. 그 증명은 간단하다. 다음 그림과 같이 길이가 1인 선분 AC를 가운데 B에서 구부려서 직선 위에 올리고 O에서 투영한다.

연속체가설

이때 AC상에 임의의 점 P는 P′에 대응된다. 이와 같이 해서 직선상의 임의의 점이 선분 AB의 한 점에 대응함을 알 수 있다. 여기서 의문이 생긴다. "${א}_{0}$와 ${א}_{1}$ 사이의 농도를 갖는 집합이 존재하는가"라는 물음이다. 그 물음에 대해 칸토르는 그런 농도는 존재하지 않는다고 예상했다. 이것은 어디까지나 예상이며 아직도 증명되지 않고 있다. '연속가설'이라 불리는 이 물음은 현대수학에서 중요한 미해결 문제의 하나로 꼽힌다.

흔들리는 차원

앞에서 선분과 직선상 점의 농도가 같은 ${א}_{1}$임을 알았다. 평면은 직선보다 훨씬 많은 점을 가지며, 평면의 농도는 직선의 농도보다 훨씬 클 것 같다. 하지만 놀랍게도 직선과 평면의 농도는 같다.

간단히 정사각형의 점을 생각하자. 다음 그림에서 정사각형 속의 점은 좌표를 이용해 두개의 실수(x,y) 로 표시할 수 있다.

정사각형의 점

x,y를 소수로 표시하면

x=0, ${a}_{1}$ ${a}_{2}$ ${a}_{3}$ ${a}_{4}$ …
y=0, ${b}_{1}$ ${b}_{2}$ ${b}_{3}$ ${b}_{4}$ …

이 두개의 수에 하나의 소수를 대응시 켜도시화하면 다음과 같다.
 

두 개의 수에 하나의 소수를 대응

이와 같은 1대1 대응으로 직선과 평면의 농도가 같음을 알 수 있다. 또 이 방법을 확대하면 직선과 입체의 농도가 같음을 알 수 있다.

${א}_{1}$ 이상의 농도는 존재하는가? 놀랍게도 그 이상의 농도를 갖는 집합, 이를테면  ${א}_{1}$ ${א}_{2}$ …${א}_{3}$…  ${א}_{n}$…의 농도를 갖는 집합이 계속 있다. 그 증명은 집합의 집합을 생각하면 가능 하다. 가령 {1,2,3}이라는 집합에서 이들 부분집합이 {{ }, {1}, {2}, {3}, {1,2}, {1,3}, {2,3}, {1,2,3}} 임을 생각할 수 있다({ }은 아무것도 없는 집합이다). 이것은 처음 집합보다 큰 집합이며 이 생각은 무한집합을 확대, 주어진 무한집합보다 큰 무한집합이 만들어지는 것이다.

집합에 관한 이야기는 여기서 끝난다. 하지만 선(1차원), 평면(2차원), 입체(3차원)의 농도가 같다는 사실만은 명심해 주기 바란다. 요컨대 집합론은 우리가 절대진리처럼 여기고 있는 차원의 구별을 없애버린 것이다. 결국 상식적인 차원개념의 파괴라는 획기적인 일의 전주곡이 된 것이다.

또 하나의 차원개념의 파괴

곡선과 평면은 다른 차원이다. 이때 직선은 곡선의 특수한 경우로 생각한다. 옛부터 곡선이란 '점이 움직이므로써 만들어지는 기하학적 도형'이라고 생각했다. 좀 어려운 말로 표현하면 곡선을 '점의 궤적'이라고 한다.

결과부터 말하면 점의 궤적으로 평면을 그릴 수 있음을 증명했다. 1890년 이탈리아의 페아노(Peano)가, 칸토르가 집합론(1884년)을 발표한 얼마 후 기하학적으로 차원파괴를 한 것이다. 정사각형의 넓이가 하나의 곡선이라고 생각한 사람은 일찍이 없었다. 유클리드 기하학에서 '선분은 폭이 없는 것'이므로 그것이 아무리 모아져도 넓이를 갖는 평면은 만들 수 없는 것이 상식이다.

그의 방법은 기발하다. 하나의 정사각형을 같은 크기의 4개의 작은 사각형으로 분할한다(그림1).

(가)처럼 새로 생긴 작은 각 정사각형의 중심을 선으로 이어간다. (나)처럼 또한번 각 정사각형을 4개의 정사각형으로 분할해 16개의 정사각형을 만들며, 이때에도 그 중심을 이어간다. 이와 같이 계속 이 일을 진행한다. (다)는 정사각형이 4천96개의 작은 정사각형으로 분할됐을 때의 상황을 나타내고 있다.

이와 같이 하여 정사각형 속을 움직이는 점의 궤적이 처음의 정사각형의 내부를 빈틈없이 매꿀 수 있음을 증명할 수 있다. 다시 말해 곡선이 정사각형(평면)으로 둔갑한 것이다. 이 사실은 1차원의 선분 속에 있는 점의 집합이 평면 속에 있는 점의 집합과 같은 농도를 갖는다는 것과 마찬가지로 상식적으로는 납득할 수 없다. 그러나 논리적으로 인정할 수 밖에 없다. 그리고 믿어야 할 것은 논리다.

페아노 정사각형 속의 모든 점을 지나는 곡선은 수학자들을 당황하게 했다. 당시 수학에서 도형의 차원은 도형상의 한 점을 나타내는데 필요한 변수의 개수로 정의됐다. 하지만 페아노 곡선은 정사각형을 연속적인 직선으로 메꾼 것이다. 즉 변수 하나로 평면의 점을 나타낸 것이다.

이 곡선의 등장으로 2차원인 정사각형 내의 임의의 점을 1차원으로 표시할 수 있게 됐다. 그러나 종전 변수의 개수로 표시되던 2차원의 정사각형의 점은 1차원이 되는 것이므로 모순이다. 따라서 2차원의 정의가 파기될 수밖에 없었다. 이 뜻은 심각했다. 1차원이 2차원과 같다면 1=2이며 따라서 수학이 성립될 수 없는 것이다.

페아노 곡선을 만드는 법

새로운 차원의 등장
 

바이슈트라의 곡선

바이어슈트라스(Weierstass)는 1872년 연속적이면서도 어느 점에서나 미분할 수 없는(매끄럽지 않은) 연속곡선을 만들었다 (그림2). 당시까지 연속함수는 미분 가능한 것(매끄러운 것)으로만 여겨져 왔기 때문에 그것은 수학자들에게 섬뜩하기조차 했다.
이것 이외에도 이상한 도형의 성질이 발견됐다. 곧 보통의 도형, 이를테면 원 다각형 등 유한 도형의 둘레는 항상 유한하다. 이런 상식과는 딴판으로 코흐(Koch)는 유한의 넓이를 둘러싸는 무한대의 길이를 갖는 곡선을 꾸며냈다(그림3).

'눈싸래기'로 불리는 이 곡선은 정삼각형에서 출발해 각 변 중앙 부분의 바깥쪽에 $\frac{1}{3}$크기의 정삼각형을 무한으로 세워가며 얻은 도형이다. 이것 역시 바이어슈트라스의 곡선과 같이 연속적이면서 어느 점에서도 미분 불능, 즉 매끄럽지 않아서 접선을 그을 수 없다. 이같은 괴물이 수학의 주류로 돼가는 요즘은 분명히 쿤(Kuhn)이 말하는 패러다임의 전환을 맞이하고 있는 것이다.

만델브로트(Mandelbrot)같은 수학자는 괴물 또는 병리적인 것이 오히려 아름답다고 말한다. 요컨대 비정수(非整數)의 차원이나 연속적이면서 어디서나 미분할 수 없는(매끄럽지 않은) 이상한 도형을 자연스러운 것이라고 주장하는 것이다. 이전 수학자의 상식으로는 병적인 것인지도 모르지만 눈을 더 크게 뜨고 보면 분명히 전체로서는 조화 질서가 있는 아름다운 형태를 갖고 있다.
 

코흐의 곡선^유한의 면적을 둘러싸고 있는 무한대의 둘레를 갖는 곡선으로 연속적이면서 어디서도 미분할 수 없다.

프랙탈 차원
 

프랙탈 차원

이쯤 되고 보니 차원의 뜻이 매우 예매해졌다. 지금 우리가 상식적으로 생각하는 차원(초등수학)은 푸앵카레(Poincare)가 정의한 다음과 같은 것이다.

(1) 점은 0차원
(2) 선은 1차원
(3) 평면은 2차원
(4) 입체는 3차원

이 차원을 위상적 차원이라 하며 0,1,2,… 라는 식으로 올라가는 것이다. 당연히 정수다. 이미 페아노 곡선의 등장으로 새로운 차원의 등장이 예상됐고, 실제 프랙탈 차원이 나타난 것이다.

프랙탈 차원은 보통의 공간(위상)보다 강한 조건이 부가된다. (그림4)에서 (가)처럼 실 한 오라기에 같은 길이의 실을 이어주면 처음 것의 2배 길이의 실오라기가 생긴다. (나)와 같이 정사각형과 같은 크기의 정사각형 종이를 붙여 각 변의 길이가 2배인 정사각형을 만들기 위해서는 처음의 그것과 똑같은 크기의 것이 4장 필요하다. (다)처럼 정육면체를 2배로 확대한 정육면체를 만들기 위해서는 처음 정육면체와 같은 크기의 것이 8개가 필요하다.

이 사실을 간단히 설명하기 위해서 선분 정사각형 정육면체의 각 변을 2등분하면, 선분은 원래 길이의 $\frac{1}{2}$인 선분이 두 개 생기고, 정사각형은 변의 길이가 원래 길이의 $\frac{1}{2}$인 4개의 정사각형이 생긴다. 정육면체에서는 각 변의 길이가 $\frac{1}{2}$인 정육면체가 8개 생긴다. 다시 말해서 각 변을 $\frac{1}{2}$로 만들어보면 닮은 도형이 각각 2개, 4개, 8개 생기는 것이다.

이들 2, 4, 8이라는 숫자와 차원 1,2,3의 관계를 살펴보자. 2차원은 각 변을 2등분했을 때 4개의 정사각형이 생기며 3차원은 정입방체이므로 8개의 정육면체가 생긴다. 1차원에서는 2개의 선분뿐이다.

이상의 사실을 요약, 즉 주어진 도형의 각 변을 이등분할 때 이를 지수로 간단히 표시하면 다음과 같다.

${2}^{1}$= 2(1차원)
${2}^{2}$= 4(2차원)
${2}^{3}$= 8(3차원)

이를 수학적인 말로 표현하면 다음과 같다.

"차원이 d인 도형은 각 변을 2등분하면 원래의 것과 닮은 도형이 ${2}^{d}$개 생긴다."
이 사실을 토대로 다음의 정의가 가능하다. "도형의 각 변을 2등분했을 때, 자기상사(自己相似) 도형이 ${2}^{d}$개 생기면 그 차원을 d라고 한다."

이상의 정의를 확대하면 다음과 같다.

"전체를 $\frac{1}{a}$로 축소한 자기상사(처음의 것과 닮은) 도형이 b=${a}^{d}$가 됐을 때의 도형의 차원은 d라고 한다."

이 관계를 대수(로그)로 표시하면 다음과 같다.

${loga}^{d}$=logb dloga=logb
∴=$\frac{logb}{loga}$

앞서 소개한 코흐 곡선가운데 다음 그림과 같이 (a)의 선분을 3등분해(b)와 같이 만들었다. 다시 (b)의 각 변을 3등분해 (c)와 같은 것을 만들 수 있다.
 

자기상자의 구조

앞 그림의 각 부분은 전체와 닮은꼴이 돼 있다. 즉 자기상사의 구조다. 코흐의 곡선은 주어진 선분을 3등분했을 때 4개의 자기상사 도형이 생겼으므로 그차원은 다음과 같이 된다.

d=$\frac{log4}{log3}$, 약 1.2618……(공식 $\frac{logb}{loga}$에 a=3, b=4 대입)

즉 코흐 곡선의 차원은 1.2618……이다. 그것은 평면이나 입방체의 2,3이라는 정수차원과 다른 소수(fraction)다. 자기상사 도형의 차원은 이같이 해서 얻어진다. 이상의 사실을 알게 되면 자연히 차원의 뜻이 확대된다. 즉 자기상사의 도형을 프랙탈이라고 하는데, 이는 분수차원을 갖는다는 뜻이다.

이 차원의 정의는 정수차원의 경우를 내포 한다. 비록 정수는 아니지만 이와 같이 일정한 수를 차원으로서 등장시킬 수 있다. 이 사실은 아무리 각 부분을 확대 관찰해도 도형의 질적인 성격이 변치않고 일정함을 뜻한다(그림5).
 

프랙탈^아무리 각 부분을 확대해도 그림의 내용은 변치 않는다.

페아노 곡선은 각 변을 2등분한 같은 도형이 4개 생겼으므로(4=${2}^{2}$) 이를 프랙탈 차원에서 본다면 정사각형과 같은 것이다. 따라서 곡선이라고 보면 1, 정사각형으로 본다면 2차원이라고 하면 하나의 도형에 2개의 차원이 있다고 고민한 페아노 곡선의 차원의 문제는 깨끗이 사라진 셈이다.

이 새로운 차원의 정의는 이전의 것을 파괴 하지 않고 오히려 내포하면서 더욱 차원의 개념을 확대한 것이다. 이것으로 규칙적인 도형만을 다루던 좁은 울타리 안의 수학이 보다 넓은 자연의 불규칙한 모습도 다룰 수 있게 됐다. 수학 세계가 한결 풍요롭게 된 것이다.

과학동아