수리철학

‘옥스퍼드 살인사건’은 동명의 소설을 영화화한 2008년 작품이다. 미궁으로 빠진 연쇄 살인 사건. 살인 현장에 기묘한 쪽지를 남겨오던 범인은 왜인지 네 번째 살인을 앞두고는 ‘예고 쪽지’를 남긴다. 쪽지에 그려진 수열의 규칙을 알아낸 주인공은 네 번째 살인을 막아보려고 하는데…

미스터리 쪽지의 비밀은 수열?

<출처: 영화 [옥스퍼드 살인사건]>

영화 ‘옥스퍼드 살인사건’은 일련의 살인사건을 다루면서 수학의 본질에 대한 수리철학을 녹여내고자 한, 다소 묵직하고 난해한 영화다. 영화는 옥스퍼드대 수리철학자 셀던 교수의 강연으로 시작한다. 오스트리아의 철학자 비트겐슈타인(1889~1951년)의 일생이 강연 주제다. 비트겐슈타인은 세계대전에 참전해 포탄이 쏟아지는 절체절명의 순간에도 자신의 생각을 기록했고, 그 결과물이 바로 그가 생전에 남긴 유일한 저서이자 대표작인 ‘논리철학논고’다. 7개의 명제와 하위명제들로 구성되는데, ‘사고는 의미를 지닌 명제이다’, ‘명제는 요소 명제들의 진리 함수이다’처럼 함축적인 문장으로 유명하다.

영화의 주인공 마틴은 말기암 환자인 노파와 그의 딸 베스가 사는 집의 하숙생이다. 이 노파는 젊은 시절 셀던 교수와 암호를 함께 해독한 수학도. 마틴은 셀던의 가르침을 받기 위해 영국으로 가지만, 그의 강연에서 도전적인 질문을 했다가 수많은 사람들 앞에서 면박을 받자 옥스퍼드를 떠나 하숙집으로 돌아온다. 집 앞에서 마틴은 우연히 셀던을 만난다. 그리고 함께 집에 들어선 순간, 주검이 된 노파를 발견한다.

경찰 조사를 받게 된 셀던은 사건 당일 쪽지 한 통을 받았다고 증언한다. ‘수열의 첫 번째’라고 쓰인 쪽지에 원 그림과 하숙집 주소, 그리고 시각이 적혀 있었다는 것이다. 얼마 지나지 않아 두 번째 살인이 일어나는데, 이번에는 두 호가 물고기처럼 겹친 그림(베시카 피시스)이 그려진 쪽지가 등장한다. 세 번째 살인 현장에서 발견된 쪽지에는 삼각형이 그려져 있다. 과연 쪽지에 담긴 의미는 무엇일까. 어떻게 해야 연쇄살인을 막을 수 있을까.

쪽지에 담긴 의미는 무엇일까

영화 중간쯤, 쪽지에 담긴 단서가 1, 2, 3, 4라는 것을 암시하는 장면이 나온다. 셀던은 마틴에게 그림에서 네 번째에 오는 모양을 알아맞히는 퀴즈를 낸다. 각 그림 중앙에 수직선을 그어 보면, 그 선을 대칭축으로 하는 숫자 1, 2, 3을 발견할 수 있다. 현재 그림은 각 숫자를 거울에 비춘 모양인 셈이다. 이 규칙성을 고려하면, 네 번째는 숫자 4를 대칭으로 배열한, M의 중간에 수평선을 그은 모양이 된다.

각 그림 중앙에 수직선을 그어 보면, 그 선을 대칭축으로 하는 숫자를 발견할 수 있다.

실제로 네 번째 살인 사건을 예고한 쪽지에는 4를 의미하는 ‘테트락티스(tetractys)’가 그려져 있었다. 삼각형 모양으로 점들을 배열한 네 번째 ‘삼각수’다. 피타고라스학파는 테트락티스가 우주만물을 구성하는 기본 요소인 물, 불, 흙, 공기를 의미한다고 여겼다. 테트락티스를 이루는 제일 윗줄의 점 하나는 0차원인 점, 그 다음 줄의 점 두 개는 1차원인 직선, 점 세 개는 2차원인 삼각형, 점 네 개는 3차원인 사면체를 나타내고, 따라서 이것들을 모두 모은 테트락티스는 ‘공간’을 의미한다고 생각했다.

셀던은 테트락티스에서 얻은 정보를 바탕으로 신문에 살인 예측 기사를 낸다. 경찰들은 예정된 장소에서 대기하며 살인을 막고자 한다. 하지만 사건은 결국 일어난다. 지체장애아들이 탄 버스의 운전기사가 일부러 교통사고를 낸 것이다. 하지만 그는 연쇄살인범이 아니었다. 아픈 딸에게 이식할 폐를 구해야하는 참에, 신문 기사를 본 뒤 비뚤어진 부성애로 모방범죄를 저질렀던 것이다. 즉 예고된 네 번째 연쇄살인은 없었다.

수열의 예측은 절대적이지 않다

테트락티스를 잘못 해석했던 것일까? 실제로 수열은 앞의 규칙에 따라 다음 항을 예측할 수는 있지만, 그 예측이 절대적이지는 않다. 처음 세 항이 1, 2, 3이 되는 수열은 an=n 외에도 무수히 만들어낼 수 있기 때문이다. 만일 수열을 bn=(n-1)(n-2)(n-3)+n으로 정의하면 네 번째 항은 10, 다섯 번째 항은 29가 된다.

1, 2, 3, 10, 29, …, (n-1)(n-2)(n-3)+n, …

또한, 수열을 으로 정의하면([ ]은 가우스 기호로 [n]은 n을 넘지 않는 가장 큰 정수) 네 번째 항은 5, 다섯 번째 항은 6이 된다.

영화에 등장하는 그림도 마찬가지다. 첫 번째 쪽지에 그려져 있던 원을 수축시키면 한 개의 점이 된다. 1을 의미한다고 볼 수 있다. 두 번째 쪽지에서는 두 개의 호가 교차하면서 두 점에서 만나므로 2를 나타낸다. 세 번째 삼각형은 세 개의 꼭짓점을 가지므로 3을 의미한다. 그렇다면 네 번째 쪽지에는 네 개의 꼭짓점을 갖는 사각형이 올 거라고 예측할 수 있다. 물론 다른 예측도 가능하다. 첫 번째는 점, 두 번째는 두 개의 교점을 이룬 직선, 세 번째는 평면도형의 기본인 삼각형이므로, 네 번째는 입체도형의 기본인 사면체일 수 있다. 즉 수열에서 일반항을 확인하기 전까지는 그 다음 항을 말하기 어렵다.

나중에 밝혀진 사건의 전말은, 모든 게 셀던의 조작이었다. 평소 잔소리가 심한 엄마에게 불만을 갖고 있던 베스는 엄마를 살해한 뒤 셀던에게 도움을 청한다. 30년 전 베스 아버지의 죽음이 자신의 실수라고 생각하던 셀던은 베스에게 느끼는 심리적 부채감에 사건 현장을 조작해 베스를 도우려고 하숙집에 왔다. 하지만 집 앞에서 예기치 않게 마틴과 마주치게 되자 셀던은 노파가 하던 단어게임에서 즉흥적으로 아이디어를 얻어 원이 그려진 쪽지를 받았다고 거짓으로 진술한 것이다. 이후 셀던은 자연사한 사람들 주변에 쪽지를 남겨 타살된 것으로 조작한다. 그렇게 가상의 연쇄살인범을 만들어내야 베스가 혐의를 벗을 수 있기 때문이었다.

“말할 수 없는 것에 관해서는 침묵해야 한다”

비트겐슈타인의 논리철학논고로 돌아가보자. 셀던은 영화 초반 강연 장면에서 비트겐슈타인이 수식을 사용해 ‘우리는 진리를 알 수 있는가(Can we know the truth?)’라는 질문의 답을 찾아갔다고 언급한다(정작 실제 논리철학논고에는 수식이 거의 사용되지 않았다). 비트겐슈타인이 수학이라는 명료한 논리에 의존해 진리를 탐구했듯이, 셀던은 확실성을 보장해주는 수열을 활용해 증거를 남기려 했다.

오스트리아의 철학자 비트겐슈타인(Ludwig-Wittgenstein)은 저서 ‘논리철학논고’를 통해 진리를 탐구하려 했다. <출처: Wikimedia Commons>

하지만 정작 비트겐슈타인은 당대의 수리철학자들과 교류하면서 수학의 절대성을 의심했다. 논리철학논고에 따르면, 언어의 본질은 실재를 묘사하거나 모사(模寫)하는 것이다. 그는 우리가 말할 수 있는 것은 사실 또는 실재가 있는가에 관한 것이고, 정작 그것이 무엇인지는 말할 수 없다고 생각했다. 그래서 책의 마지막을 장식하는, ‘말할 수 없는 것에 관해서는 침묵해야 한다’는 명제가 무척 유명하다.

이런 비트겐슈타인의 철학과 마찬가지로, 영화에서 수열은 확실한 증거로 보이지만 실제로는 셀던이 살인을 교묘히 꾸미기 위해 조작한 허구로 묘사된다. 이를 알아챈 마틴이 다음과 같이 말하면서 영화도 끝을 맺는다. “숫자도 거짓이다.”

과학동아