리만가설이란 무엇일까?

천재 수학자 존 내쉬의 정신을 앗아간 리만가설

악마의 문제가 있다?!

1959년 미국에서는 리만가설 발표 100주년을 기념한 강연이 열렸다. 당시 최고의 수학자로 불리던 존 내쉬는 리만가설과 관련한 자신이 연구 중인 내용을 발표하기로 했다. 그런데 내쉬는 발표 도중 말을 더듬거리더니, 결국 논리에 맞지 않은 말을 쉴새없이 하기 시작했다. 그는 자신이 무슨 말을 하고 있는지도 모른 채 이상한 말을 쉬지 않고 내뱉었다. 내쉬가 30년 동안 앓아온 정신분열증이 시작된 것이다.

 

강연 직후 내쉬가 리만가설을 풀다 정신분열증을 앓게 됐다는 것이 밝혀지면서 리만가설을 연구하던 많은 수학자들이 연구에서 손을 떼기 시작했다. 천재의 정신도 무너뜨리는 무시무시한 연구라는 소문이 퍼진 것이다. 항간에는 소수의 비밀을 밝힐 수 있는 있는 리만가설을 연구하면 신의 분노를 산다는 말까지 떠돌았다. 이때 ‘수학자의 영혼을 갉아먹는 악마 같은 문제’라는 별명도 생겼다. 이후 수학자들은 40년 동안이나 리만가설을 연구를 멀리했다. 그러다 2000년, 클레이 연구소가 리만가설을 7대 난제로 선정하면서 다시 연구의 불이 붙었다.

 

리만가설을 풀다 정신분열증을 앓은 미국의 수학자 존 내쉬. 그는 30년 동안이나 정신분열증을 앓았다. - 위키미디어 제공

사실 내쉬는 당시 희대의 수학 천재라고 불릴 만큼 수학 실력이 뛰어났다. 1948년 대학 입학 3년 만에 수학과 학사와 석사 학위를 동시에 받았고, 이후 프린스턴대학원에 역대 최고의 장학금을 받고 입학했다. 박사 과정마저도 2년 만에 마쳤다. 이때 졸업 논문으로 <비협력 게임>을 제출했는데, 이것으로 45년 뒤 노벨 경제학상을 수상하게 했다. 1958년에는 수학계의 노벨상 필즈상 후보에도 올랐다. 따라서 내쉬가 리만가설에 도전한다고 했을 때 수학계에서는 그가 당연히 이 문제를 풀어낼 것이라고 내다봤다.

그런데 이런 내쉬의 정신을 리만가설이 앗아간 것이다. 내쉬는 정신분열증을 치료한 후 인터뷰에서 “리만가설의 복잡한 내용에 모두 몰두한 나머지 내 정신이 무너졌다”고 당시를 회상했다.

 

 

그렇다면 대체 리만가설이란 무엇일까? 리만가설이란 소수로 이루어진 제타함수의 값이 0이 되는 점은 무수히 많고, 모두 일직선 상에 나타난다는 가설이다. 불규칙하게 등장하는 소수에도 규칙이 있다는 것을 보여 주기 때문에 수학적인 의미가 크다. 수학에서는 어떤 규칙만 발견되면 문제를 쉽게 해결할 수 있기 때문에, 많은 수학자가 이 문제에 도전했다.

 

제타함수를 그래프로 나타낸 것. 함숫값이 0인 지점이 여러 개 나타난다.

이런 점이 무한히 많이 나타난다면 리만가설이 참이 된다. - 수학동아 제공

수학자들이 리만가설 연구에 몰두하는 이유는 소수에 치명적인 매력이 있기 때문이기도 하다. 먼저 정의가 초등학생들도 쉽게 알 수 있을 정도로 쉽다. 소수란 2, 3, 5, 7, 11…처럼 1과 자기 자신으로만 나눠떨어지는 1보다 큰 자연수인데, 1부터 100까지 수 중에서 소수를 가려내는 건 누구나 쉽게 할 수 있다. 두 번째는 소수는 아무런 규칙 없이 무작위로 드문드문 나온다고 알려져 있지만, 왠지 조금만 더 큰 수를 찾으면 소수의 규칙을 발견할 것 같은 예감이 들게끔 수가 나타난다. 이런 이유로 수학자들은 지금 이순간에도 다양한 방법으로 소수를 연구하고 있다.

이밖에도 수학동아 8월호에서는 007로 끝나는 제임스 본드 수, 역대 가장 큰 소수, 소수 주기율 표 등 다채로운 소수 이야기를 만날 수 있다.

 수학동아