수학과 영화, ‘페르마의 밀실’

한 편의 영화에는 문학, 철학, 음악, 미술 등 다양한 장르의 예술적 요소가 녹아있기에 영화를 흔히 종합예술이라고 한다. 영화와 상당히 거리가 멀 것 같은 수학 역시 직간접적으로 영화와 관련된다. 영화 ‘캐리비안의 해적’에서 거센 파도와 포말이 배를 덮치는 장면은 유체 시뮬레이션 기술을 이용하는데, 이를 가능하게 하는 것이 나비에-스토크스(Navier-Stokes) 방정식이다.

이 미분방정식은 유체를 이루는 각 입자의 힘과 가속도를 수리적으로 계산하여 유체의 움직임을 사실적으로 표현할 수 있게 해준다. 이처럼 수학은 영화를 제작하는 기술 측면에서도 지원을 하지만, 영화의 직접적인 소재를 제공하기도 하는데 그 대표적인 예가 ‘페르마의 밀실’이다.

페르마의 편지를 받고 모인 네 명

영화 ‘페르마의 밀실’ 포스터 Ⓒ 위키피디아

‘페르마의 밀실(La habitación de Fermat)’은 2007년 제작된 스페인의 공포영화로, 우리나라에서는 2012년에 개봉되었다. 영화 제목에 수학자 페르마가 포함되어 있다는 사실에서 추측할 수 있듯이 영화를 이끌어 가는 모티브는 수학이다.

영화의 주인공들은 발신인이 페르마로 된 편지를 받고 외딴 곳에 위치한 방에 모이게 되고, 이들에게는 각각 갈루아, 힐베르트, 파스칼, 올리바라는 수학자의 이름이 부여된다. 골드바흐 가설의 증명을 앞두고 있는 대학생 갈로아, 노(老)수학자인 힐베르트, 발명가 파스칼, 그리고 유일한 여성인 올리바, 이렇게 범인이 가명을 쓰게 한 까닭은 이들의 나이와 수학자들이 죽은 나이가 같기 때문이다. 이 같은 설정은 나중에 범인을 가리는 중요한 단서로 작용한다.

시간이 지나감에 따라 주인공들은 자신들이 치밀한 살해 음모에 걸려든 것임을 알게 된다. 그 밀실에는 사방에 압축기가 설치되어 있어 PDA를 통해 전송되는 문제들을 1분 안에 풀어 정답을 입력하지 못하면 압축기가 작동하여 압사를 당하게 된다.

이 절체절명의 상황에서 주인공들은 살인 계획을 세운 사람이 그 방에 있는 4명 중의 하나이고, 전혀 관련이 없을 것 같았던 4명의 주인공들이 서로 긴밀하게 얽혀 있음을 알아낸다. 과연 누가 어떤 동기에서 죽음을 담보로 한 끔찍한 상황을 연출한 것일까?

골드바흐의 추측과 더불어 벌어진 사건

영화의 치명적인 스포일러가 되겠지만 결론부터 말하면 살인 동기는 골드바흐의 추측의 증명에 대한 주도권 다툼이고, 주모자는 영화에서 힐베르트라는 이름을 쓰는 수학자다. 그는 35년이라는 긴긴 세월 동안 골드바흐의 추측을 증명하기 위해 노력해 왔다. 힐베르트는 그 증명을 완성해가는 시점에 예기치 못한 기사를 접하게 된다. 21세의 대학생이 골드바흐의 추측을 증명했고 그 발표회를 갖는다는. 그 주인공이 바로 영화에서의 갈루아다. 힐베르트는 평생에 걸친 자신의 노력이 갈루아에 의해 한순간에 사라지는 것을 견디지 못하고 살인 계획을 세운 것이다.

힐베르트는 그 살인 계획이 성공으로 돌아갈 경우 자신도 죽게 되지만 갈루아가 세상에서 사라지고, 또 사건 현장에서 골드바흐의 추측의 증명이 담긴 노트가 발견되면 자신은 골드바흐의 추측을 증명한 수학자로 역사에 영원히 남게 될 것을 의도했다.

수학자도 인간인 이상 죽음이 두려웠겠지만, 270여년 동안 미해결로 남아 있는 세기의 난제를 증명하여 수학사에 길이 남는 것은 자신의 목숨을 바꿀 수 있을 만큼 중차대하고 영광스러운 일이기 때문에 이런 일을 벌인 것이다.

골드바흐의 추측이 무엇이길래

영화의 모티브가 된 ‘골드바흐의 추측(Goldbach‘s conjecture)’은 소수(prime number)와 관련된 가장 유명한 미해결 문제 중의 하나이다, 이는 프러시아의 수학자 크리스티안 골드바흐(Christian Goldbach, 1690~1764)가 1742년 레온하르트 오일러(Leonhard Euler, 1707~1783)에게 보낸 편지에서 시작되었다.

골드바흐는 ‘2보다 큰 모든 정수는 세 소수의 합으로 나타낼 수 있다’고 적었는데, 그는 1을 소수로 간주하였기 때문에 3=1+1+1, 4=1+1+2, 5=1+1+3과 같이 3, 4, 5도 세 소수의 합으로 표현된다고 잘못 생각한 것이다. 합을 구성하는 수로 1을 제외하면, 골드바흐의 추측은 ‘5보다 큰 모든 정수는 세 소수의 합으로 나타낼 수 있다’로 재진술된다.

골드바흐의 편지를 받은 오일러는 ‘2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다’는 간단한 형태로 바꾸었다. 일반적으로 골드바흐의 추측이라 하면 오일러의 버전을 말하는데, 영화의 초반에 골드바흐의 추측이 언급된다. 갈루아는 여대생들에게 생각나는 짝수를 말해보라고 하고 다음과 같이 두 소수의 합으로 나타내준다.

18=7+11, 24=5+19, 50=13+37, 100=83+17, 1000=521+479, 7112=5119+1993

그러나 이렇게 짝수들을 두 소수의 합으로 나타내는 것은 증명이 될 수 없다. 현재  ’4×10의 18승’까지의 짝수에 대해서는 두 소수의 합으로 나타낼 수 있음이 컴퓨터로 확인되었다. 그러나 일반적인 경우에 대한 증명은 이루어지지 못했기에 미해결 문제인 것이다.

영화 속에서 PDA를 통해 전송된 문제에는 수학 문제도 있고 논리 퍼즐도 있고 난센스 퀴즈도 있는데, 그 중 하나를 풀어보자.

나이 문제

“한 학생이 선생님께 세 딸의 나이를 물었다. 선생님은 세 딸의 나이를 곱하면 36이고 더하면 너희 집 주소라고 답했다. 그랬더니 학생이 설명이 더 있어야 한다고 말했고, 선생님은 설명이 부족하다는 것을 인정하면서 제일 큰 딸은 피아노를 친다고 답했다. 세 딸의 나이는 몇 살인가?”

세 딸의 나이를   x,y,z 라고 할 때, 나이의 곱이 36이므로 xyz=36이다. 세 딸의 나이의 합인 x+y+z 는 주소라고 했으므로 특정한 수가 된다. 미지수는  x,y,z 의 세 개인데 주어진 방정식은 두 개이고 그나마 하나는 불완전한 방정식이다. 이러한 경우는 부정(不定)방정식이 된다. 즉 주어진 방정식의 개수가 미지수의 개수보다 적으면 방정식의 해가 하나로 결정되지 않고(不定) 여러 개의 해가 나오게 된다.

이 문제에서 xyz=36을 만족시키는 세 수는 (36, 1, 1), (18, 2, 1), (12, 3, 1), (9, 4, 1), (6, 6, 1), (9, 2, 2), (6, 3, 2), (4, 3, 3)의 8쌍이 된다. 그런데 학생이 설명이 빠졌다고 한 이유는 세 딸의 나이를 더해서 나오는 값이 중복되는 경우가 있음을 의미한다. 세 수의 합이 같아지는 경우는 (6, 6, 1), (9, 2, 2)의 두 가지이다. 6+6+1=13=9+2+2이기 때문이다. 문제에 제시된 또 하나의 정보는 ‘제일’ 큰 딸이므로, 가장 큰 수가 결정되는 (9, 2, 2)가 답이 된다. 즉 세 딸은 각각 9살, 2살, 2살이다.

과유불급(過猶不及)의 메시지

아리스토텔레스는 “인간은 모두가 지식욕에 근거해서 행동하게 되어 있다”고 말했다. 실제 인간의 지식욕은 인류의 발전과 학문의 진화를 뒷받침하는 원동력이 되었지만, 도가 지나치면 탈이 나는 법, 영화에서 힐베르트의 학문적 열정이 과해 지면서 결국 삐뚤어진 집착으로 변질되었다. 수학의 재미를 안겨준 영화 ‘페르마의 밀실’은 인간의 욕망에서 비롯된 잘못된 집착을 경계하라는 메시지도 함께 던져준다.

 ScienceTimes