불완전성 정리와 불확정성 원리

수학자들은 오랫동안 수학의 완전무결함을 믿고 있었다. 심지어는 수학 속에서 진리를 찾아낼 것이라는 기대를 할 정도였다. 수학이란 나와 같은 일반인이 이해하기에는 너무나 매섭고 엄밀한 논리체계 위에 기초한 학문이기 때문이었다.

하지만 20세기에 들어오면서 괴델이라는 수학자가 등장하여 이 기대를 여지없이 무너뜨려버렸다. 수학에서는 원래 모든 것이 증명가능해야 했다. 하지만 괴델은 분명히 참이지만 증명은 불가능한 것이 있음을 증명한 것이다.

불완전성 정리의 예로는 크게 두 가지 명제가 흔히 쓰이는데 그 중 하나가, "크레타 사람이 말하길 '모든 크레타 사람은 거짓말장이다'라고 했다"는 것이다. 이것은 참 또는 거짓을 판별할 수 없는 결정 불가능한 명제의 대표적인 예다.

크레타 사람이 거짓말장이가 아니라고 하자. 그러면 "모든 크테타 사람은 거짓말장이다." 명제는 거짓이 된다. 이 경우는 거짓말장이가 아니어야 할 크레타 사람이 거짓말을 한 셈이 되므로 모순이다.

반대로 크레타 사람은 거짓말장이라고 하자. 그러면 저 문장은 참이다. 이 경우는 거짓말장이가 참말을 한 셈이 된다. 이 역시 모순이다. 따라서 위 문장은 결정불가능이다.

만일 크레타 사람이 아니라 한국사람인 내가 "모든 크레타 사람은 거짓말장이다"라고 했다면 이것은 판별가능하다. 하지만 크레타 사람이 저 말을 하게 되면 그 때는 판별 불가능이다. (문제의 열쇠는 '모든'이라는 형용사가 쥐고 있다.)

크레타 집합에 속하지 않는 내가 말하는 경우와 크레타 집합의 한 원소인 어떤 크레타인이 말하는 경우는 이렇듯 서로 큰 차이를 낳는다. 집합 내의 원소로는 집합의 성질을 판별할 수 없는 것이다. 이걸 아주 간단한 문장으로 표현하면,

"이 문장은 거짓이다."

이걸 너무 확대 해석해서 '부처(또는 예수)가 "나는 거짓말쟁이다"라고 말했다"는 식으로 종교 영역으로 어설프게 들어가는 사람도 있는데 정말 위험한 발상이다. 집합의 개념으로 보자면 사람은 어떤 종교의 집합에 속하는 사람과 그렇지 않은 사람으로 나뉠 수 있기 때문이다.

결정불가능한 것이 아니라 참이지만 증명불가능한 명제도 있다. "이 문장은 증명될 수 없다."

이 문장이 증명될 수 있다면 답은 간단하다. 이 문장은 거짓인 것이다. 그런데 이 문장이 증명될 수 없다면 이 문장은 참이다. 이 문장이 참이라면 결국 이 문장은 증명될 수가 없다. 증명할 수 없는 참은 분명히 존재하는 것이다. 이 경우 역시 집합(문장)이 자기의 원소로 활용되면서 생기는 문제다.

수학의 결정불가능성은 물리의 불확정성 원리와 상당히 닮은 면이 있다. 불확정성 원리 역시 우주라는 집합의 한 원소일 수 밖에 없는 전자기파로 우주의 깊은 곳을 들여다보는 데서 생기는 한계인지 모른다. 결국 우주의 정말 깊은 곳은 우주에 속하지 않는 수단으로 봐야한다는 것인데 이건 이미 우리 능력 밖의 얘기다. (종교적 얘기를 하는 것이 아님을 다시 강조한다.)

참이지만 증명불가능한 명제에 해당하는 물리법칙도 있을 것 같은데 생각이 나질 않는다.

Posted by 요한보스코