짝수 vs. 정수

물건이 여러 개 있을 때 가장 먼저 떠오르는 질문은 그 물건이 ‘몇 개’냐는 것일 것이다. 이처럼 단순히 물건의 개수를 세는 것부터 산수가 생겨났는데, 인류는 이에 그치지 않고 덧셈과 곱셈 등 연산을 발명했고, 수학을 하기 시작했다.

유한하다면, 짝을 지어보면 안다

물건이 두 종류가 있을 때는 자연스럽게 어느 것이 더 많은가라는 질문이 나온다. 이런 간단한 질문으로부터 인류는 ‘대소 관계’라는 수학적 개념을 발명한다. (정확히 말하자면 다소 관계라 해야겠지만, 어차피 수치화하면 대소 관계다) 예를 들어 돌멩이 몇 개와, 동전 몇 개가 있을 때 어느 쪽이 많은지 알고 싶으면, 각각의 개수를 세는 것이 확실하다. 하지만 인간은 이보다는 좀 더 현명하다. 어느 쪽이 더 많은가에만 관심이 있을 경우, 돌멩이와 동전을 짝지어보는 방법이 있다. 짝을 지어가다가, 돌멩이가 남는지 동전이 남는지 보는 것이다. 사실 몇 개인지 셀 줄 모르는 유아들도 이러한 짝짓기를 통해 어느 쪽이 많은지 인지하는 경우가 보통이다. 즉, 많고 적음을 구별하는 것은 개수를 세는 것보다 오히려 더 기본적인 수학 개념이라 할 수 있다.

무한히 많다면 어떻게 비교할까?

하지만, 이런 종류의 질문은 근본적으로 유한 개의 물건에만 해당한다. 무한 개의 물건이 있을 때 몇 개냐는 질문은 하나마나다. 물건의 개수를 일일이 세고 있을 사람은 아무도 없을 것이고, 유한한 인간은 결코 다 셀 수가 없다. 그냥 ‘무한 개’라는 말로 충분하지 않는가. 그런데 여기서 그치면 그야말로 산수만 하다 마는 셈이다. 이번에는 두 종류의 물건이 각각 무한 개일 때, (실제로 무한 개인 물건이 있기는 한 걸까?) ‘어느 쪽이 더 많을까’라는 질문을 던져 보기로 하자. 일일이 세고 있어서야 비교는 커녕 한쪽도 다 못 센다. 비교가 목적이니, 두 물건을 짝지어 보는 게 그나마 노력을 더는 현명한 처사일 것이다.

그런데 무한 개의 짝을 지어주는 것 또한 유한한 생명의 사람이 할 짓은 아니다. ‘무한 개는 모두 개수가 똑같겠지’라는 답을 서둘러 내리고 싶은 생각이 굴뚝같이 드는 것이다. 무한 개의 물건이 두 종류가 있으면 어느 쪽도 안 남게 항상 서로 짝을 지어줄 수 있다는 얘기인데, 과연 그럴까?

만사가 그렇지만 지나고 보면 당연한 질문인데, 무한을 두려워했던 인류는 이런 질문 자체를 꺼려한듯하다.긴 침묵을 깨고 무한집합의 개수에 대해 최초로 주목할만한 글을 남긴 사람은 현대 과학의 아버지 갈릴레오(Galileo Galilei, 1564-1642)다.

갈릴레오의 역설?

갈릴레오의 책'두 개의 주요 세계 체계에 대한 대화'의 그림
3명이 대화하는 모습이 보인다.

갈릴레오는 1632년 ‘두 개의 주요 세계 체계에 대한 대화’라는 책을 출판한다. 이 책은 사그레도, 살비아티, 심플리치오라는 세 인물이 지동설과 천동설에 대해 논하는 형식으로 돼 있다. 사실상 지동설을 지지한 이 책 때문에 갈릴레오는 로마 교황청의 이교도 심판을 받아 가택에 연금되고 출판을 금지당한다.

하지만 갈릴레오는 1638년 교황청의 영향력이 약한 네덜란드에서 ‘새로운 두 과학에 대한 논의 및 수학적 설명’을 펴낸다. 스티븐 호킹이 ‘뉴턴의 운동 법칙을 예견한 책’이라 부른 책이다.

이 책도 동일 인물들이 대화하는 형식으로 돼 있는데, 그 중의 한 대목을 보자. 심플리치오가 살비아티(라고 쓰고 갈릴레오라고 읽는다)에게 ‘길이가 서로 다른 두 줄이 있는데, 더 긴 쪽이 짧은 쪽보다 더 많은 점을 포함하지 않는 것이 가능한 이유’를 묻는다. 아래 그림에서 선분 CD가 선분 AB보다 길지만, 그림처럼 이어주면 두 선분의 점은 (예를 들어 X와 Y가) 서로 완벽히 대응하므로, ‘개수’가 똑같지 않느냐는 질문을 던진 것이다.

위의 두 선분처럼, 한 집합의 원소와 다른 집합의 원소를 서로 남김 없이, 중복 없이 짝지을 수 있으면, 서로 ‘일대일 대응’한다고 부른다. 즉, 두 선분은 일대일 대응하여 ‘개수’가 같아야 하는데, 명백히(?) CD가 AB보다 긴 이유가 무엇이냐는 질문이다.

살비아티는 “유한하고 제한된 것에 부여하는 성질을 무한에 부여하며, 유한한 마음으로 무한을 논하려 할 때 생기는 어려움 중 하나”라면서도 한술 더 떠 비슷한 질문을 더 던지는데 본질적인 얘기만 따면 다음과 같다.

살비아티: 얼마나 많은 완전제곱수가 있는지 묻는다면,
사람들은 당연히 자연수에 대응하는 만큼 많이 있다고 대답하겠지요?

심플리치오: 정확히 그렇지요

살비아티: 그런데 100까지의 수 중 제곱수는 10개 있으니, 제곱수는 전체 수의 1/10입니다.
만까지의 수 중에는 1/100, 백만까지의 수 중에는 1/1000, … 이므로
제곱수의 비율은 큰 수로 넘어갈수록 줄어들지 않나요?

완전제곱수의 집합 S = { 1, 4, 9, 16, 25, 36, …}와 자연수의 집합 N = { 1, 2, 3, 4, 5, 6, …}을 생각하고, S의 원소 s=n2에 N의 원소 n을 대응하면 일대일 대응하므로 ‘개수가 같아야’ 한다. 하지만, S가 N의 진부분집합임은 명백하고, 위의 논증에 따르면 S는 N보다 원소의 개수가 한참 ‘적어야’ 한다는 것 또한 그럴듯하니 어찌된 일이냐는 질문이다.

갈릴레오의 책에서 사회자격인 사그레도는 다음과 같이 말한다. 이런 사실을 처음 접하면 누구나 아래와 같은 마음이 들 것이다

사그레도: 그렇다면 이런 상황에서 어떻게 결론지어야 할까요?

짝수의 개수와 자연수의 개수 어느 쪽이 많나?

과연 어떤 유한한 마음을 가지고 무한을 논해서 이런 어려움이 생긴 걸까? 사실 갈릴레오도 이 문제에 대해 만족할만한 답을 주지는 못했다. 더구나 지동설을 펼쳤을 때와는 달리 질문 자체가 세간의 관심조차 거의 끌지 못해 200년 이상 묻혀 있었다. 여기에서는 더 실감나는 예인, 짝수 자연수의 집합 E와 자연수의 집합 N의 개수를 생각하여 갈릴레오의 역설을 타파(?)해 보자.

자연수와 짝수는 개수가 같나?
E의 원소마다 절반을 취해 N의 원소에 대응하자. 예를 들어 E의 원소 28에 절반을 취하여, N의 원소 14를 대응하는 식이다. 즉, 다음과 같은 대응을 생각하는 것이다.

양쪽이 서로 남지도 않고, 중복하지도 않게 일대일 대응했다. 따라서 개수는 같아 보인다.

자연수가 짝수보다 많을까?
한편, N은 E를 포함한다. 즉, '자연수는 짝수를 포함한다'는것은 사실상 다음과 같은 대응을 생각하는 것이다.

이 대응에서는 E가 모두 짝지어 없어졌고 N의 원소는 남는다. 따라서 E의 개수보다 N의 개수가 더 많아 보인다.

오히려 짝수가 자연수보다 많나?
필자도 여기서 한술 더 뜨려고 한다. 이번에는 N의 원소에 네 배를 하여 E의 원소와 대응한 관계를 생각해 보자.

뭐지, 이건? 이번에는 N의 원소는 모두 대응을 마쳤고 E의 원소만 남으니, N의 개수가 더 적지 않은가?

최선을 다한 대응을 찾아라

위에서 보인 두 번째 대응은 N에서 1, 3, 5, … 같은 건 숨겨(?) 두고 별로 최선을 다하지 않고 대응하고 있다. 세 번째 대응 역시 E에서 2, 6, 10 등은 숨겨 둔 채 건성으로 대응하고 있는데, 첫 번째 대응만은 숨기지 않고 성실하게 대응하여, 양쪽 모두 하나도 남기지 않았다.

유한 집합인 경우 원소의 개수가 같으면 (즉, 일대일 대응이 하나라도 있으면), 몇 개를 숨겨두고 대응하고 싶더라도, 중복하지 않게 대응하다 보면, 결국에는 숨겨뒀던 것도 대응할 수밖에 없다. 아무리 최선을 다하기 싫어도 결국에는 일대일로 대응할 수밖에 없는데, 이런 걸 조금 비틀어 표현한 것이 ‘비둘기집의 원리’라는 것이다. 하지만, 무한집합일 경우 최선을 다하면 일대일 대응하게 만들 수 있음에도, 건성으로 대응하면 한쪽에는 원소가 남게 짝지어 줄 수 있는 경우가 비일비재하다! 여기에서 무한과 유한의 근본적인 차이가 난다.

위에서 본 세 종류의 대응 자체야 아무런 문제가 있을 턱이 없다. 다만, 이러한 대응으로부터 개수의 많고 적음을 해석하는 게 과연 올바르냐는 것이 문제였던 것이다. 그렇다면, 어떤 대응을 기준으로 삼아 개수를 해석하는 게 옳을까? 이런 답이 떠올랐길 바란다. “최선을 다해” 일대일 대응을 하나라도 만들 수 있으면 두 집합의 원소의 개수를 같다고 보자는 게 게오르크 칸토어(Georg Cantor, 1845-1918)다. 반대로, 기를 쓰고 최선을 다해도 일대일 대응을 만들 수 없다면, 두 집합의 원소는 개수가 다른 것이다.

칸토어의 집합론: 일대일 대응하면 개수가 같다!

칸토어(Georg Cantor, 1845~1918)

칸토어는 갈릴레오의 생각을 이어받아 ‘대응’의 개념을 적극적으로 받아들여 무한집합론을 전개하는데 성공한다. 두 집합이 서로 일대일 대응, 즉, 남김도 중복도 없이 대응하도록 (최선을 다해) 만들 수 있을 때 개수가 같다고 정의하는데, 무한집합에서는 조금 더 고급 용어인 ‘기수’(基數, cardinality)라는 말을 써서 ‘기수가 같다’는 표현을 주로 쓴다.

앞서도 보았지만, 무한집합일 경우 A와 B를 중복 없이 짝지어 A의 원소는 모두 소진하고, B의 원소는 남는다 해도 A의 기수가 B의 기수보다 작다는 결론을 내릴 수 없다는 데 주의해야 한다.

조금 더 노력하면 일대일 대응을 만들 수 있을지는 아직 알 수 없기 때문에, A의 기수는 B의 기수보다 ‘작거나 같다’는 결론밖에 내릴 수 없다.

모든 무한집합은 기수가 같지 않을까?

그런데, 갈릴레오의 예에서 선분 AB와 선분 CD는 서로 기수가 같다. 또한, 완전제곱수의 집합 S와 자연수의 집합 N 역시 기수가 같다. E와 N도 기수가 같다. 이쯤 되고 보면, 불현듯 모든 무한집합은 기수가 같은 건 아닐까라는 생각이 고개를 든다.

즉, 어떤 무한집합을 가져오든 최선을 다 하면 항상 서로 남김도 중복도 없이 대응하게 만들 수 있지 않을까라는 의심이 드는 건 자연스럽다. 그렇다면 차라리 좋았으련만… 칸토어는 의외의 답을 내놓는다. 얼마나 뜻밖의 결론이었는지 당대의 내로라 하는 수학자들마저 인정하기 힘들어했고, 많은 공격을 퍼부었다. 칸토어가 정신병원에 여러 번 수용된 것은 이렇게 공격당한 이유도 컸을 것이다. 훗날 힐베르트(David Hilbert, 1862~1943)는 ‘누구도 칸토어가 창조한 낙원에서 우리를 추방할 수 없다’고 했지만, 그 낙원이 어떠한 곳인지는 (수학을 싫어하는 혹은 수학이 싫어하는 이들에게는 지옥일 수도 있겠다)

네이버캐스트