숫자 하나가 500쪽이나 된다고? 거대 소수를 찾는 사람들

새로운 거대 소수가 발견됐다. 지금까지 발견됐던 소수도 굉장히 큰 수였는데, 이번에 발견된 소수는 그보다 더 크다고 한다. 글자 크기를 4포인트로 작게 인쇄해도 무려 500쪽짜리 책이 되며, 4초에 숫자 10개씩 쓴다고 하면 전체를 쓰는 데 3개월이 넘게 걸린다. 이 어마어마한 수를 어떻게 찾아낸 걸까?

 

이번에 발견된 49번째 메르센 소수를 담은 책이다. 책의 안쪽에는 숫자가 빼곡하게 인쇄돼 있다. - 최경재, GIB 제공

최근 읽는 데만 서너 달이 걸리는 소수가 발견됐다. 미국 센트럴미주리대 커티스 쿠퍼 교수가 2233만 자리의 소수를 찾은 것이다. 쿠퍼 교수는 센트럴미주리대에 있는 다수의 실험실 컴퓨터로 ‘Prime95’라는 프로그램을 꾸준히 작동시켜 왔고, 그 중 한 대가 이 소수를 찾아냈다. 이 수는 2^74,207,281-1로 기존에 발견된 가장 큰 소수보다 500만 자리나 더 길다. 이번 발견으로 쿠퍼 교수는 총 4개의 새로운 소수를 찾았고, 3000달러의 상금을 거머쥐게 됐다.

메르센 소수 공동프로젝트 홈페이지의 모습 - 메르센 소수 공동프로젝트 홈페이지 제공

이번에 찾은 소수는 49번째 ‘메르센 소수’이기도 하다. 메르센 소수란 17세기 프랑스의 수학자였던 마랭 메르센의 이름을 딴 소수로, 2의 거듭제곱에서 1을 뺀 모양의 소수를 의미한다. 가장 큰 소수를 발견했다고 하면 보통 메르센 소수다.

쿠퍼 교수는 ‘메르센 소수 공동프로젝트’(GIMPS) 소속으로, 이 단체는 ‘Prime95’나 ‘MPrime’같
은 소프트웨어를 이용해 메르센 소수를 찾는다. 메르센 소수 공동프로젝트에서 쓰는 프로그램으로 소수를 검증해보는 것은 컴퓨터 하드웨어의 성능을 시험해보는 데 쓰이기도 한다. 실제로
Prime95를 이용해 인텔 CPU의 결함을 찾아내기도 했다.

1997년부터 메르센 소수 공동프로젝트에 참여하고 있는 최경재 선생님은 새로운 메르센 소수가 발견될 때마다 그 숫자를 책으로 만들어 둔다. - 최경재 제공

● 메르센 소수를 찾아서!

메르센은 소수의 규칙을 찾는 데 빠져 있었다. 그러던 중 p가 1보다 큰 자연수일 때 2^p-1이 소수일지도 모른다는 생각을 하게 된다. 하지만 p가 어떤 수든 무조건 2^p-1이 소수인 건 아니었다.

수학동아 제공

메르센은 지수 p가 소수일 때 2^p-1이 소수가 된다고도 생각했다. 그러나 p가 소수인 11일 때는 2¹¹-1=2047이고, 2047은 23×89로 소인수분해가 되는 것을 알게 됐다. 즉 이때는 소수가 아닌 것이다. 소수의 규칙은 쉽게 찾아지지 않았다. p의 크기를 키워가며 2^p-1이 소수가 되는 숫자들을 찾던 메르센은 p가 2, 3, 5, 7, 13, 17, 19, 31, 67, 127, 257일 때만 소수라고 발표한다.

나중에는 이것 또한 틀린 것으로 결론이 났다. 1903년에는 p가 67, 1931년에는 p가 257일 때 2^p-1이 소수가 아닌 것이 밝혀진 것이다. 그래도 메르센의 노력은 결코 헛되지 않았다. 오늘날 메르센 소수는 컴퓨터를 이용해 소수를 찾을 때 쓰이기 때문이다.

프랑스의 수학자 마랭 메르센의 모습. 350년 전 메르센 소수를 처음 발견했다. - 위키미디어 제공

● 새로 발견되는 소수는 왜 대부분 메르센 소수?

새로운 소수가 발견됐다는 소식을 접하고 보면, 그 소수는 보통 메르센 소수다. 그것은 메르센 소수를 찾는 획기적인 알고리즘 때문이다. 일반적으로 자연수 n이 소수인지 판별하기 위해서는 √n보다 작은 모든 소수로 나눠떨어지지 않는 것을 확인하면 된다. 그러나 이 방법은 수가 커질수록 소수인지 아닌지 판별하기 매우 어렵다. 계산해야 하는 양이 너무 많아지기 때문이다.

이것과 비교해 메르센 소수는 상대적으로 쉽게 찾을 수 있다. 메르센 소수를 찾는 ‘뤼카-레머 판정법’을 쓰면 비교적 짧은 과정을 통해 소수인지 아닌지 알 수 있기 때문이다. 메르센 소수를 찾는 대표적인 프로그램인 Prime95에도 이 판정법이 쓰이고 있다.

소수를 찾는 대표적인 프로그램인 Prime95가 실제로 실행되고 있는 모습이다. 메르센 소수 공동프로젝트 홈페이지인 www.mersenne.org에서 다운받을 수 있다. - www.mersenne.org 제공

이 말은 메르센 소수 외의 소수를 찾는 획기적인 방법이 없다는 말이기도 하다. 예를 들어 메르센 소수가 발견됐더라도, 그 소수의 쌍둥이 소수를 확인하는 일은 거의 불가능에 가깝다. 쌍둥이 소수란 그 차가 2인 소수를 말하는데 11, 13이나 17, 19 같은 소수 쌍을 의미한다. 즉 뤼카-레머 판정법을 통해 메르센 소수를 찾았더라도, 그 수의 앞뒤로 2만큼 차이가 나는 수가 소수인지 아닌지 판단하는 것은 매우 어렵다는 이야기다.

뤼카-레머 판정법을 이용해 컴퓨터로 메르센 소수를 찾는 데 처음으로 성공한 사람은 미국의 수학자 라파엘 로빈슨이다. 그는 1950년에 미국 국립표준기술연구소에서 만든 ‘스왁’이라는 초창기 디지털 컴퓨터를 이용해 1952년에만 무려 5개의 메르센 소수를 찾아냈다. 컴퓨터로 메르센 소수를 찾기 전까지 가장 큰 소수는 에두아르 뤼카가 발견한 2¹²⁷-1로, 로빈슨이 찾은 2⁵²¹-1은 이보다 4배 이상 자릿수가 크다.

프랑스의 수학자인 에두아르 뤼카(왼쪽)는 뤼카-레머 판정법의 기초가 되는 소수 판정법을 만들었다. 그는 이것을 이용해 12번째 메르센 소수인 2127-1이 소수임을 밝혀냈다. 미국의 수학자인 데릭 레머(오른쪽)는 뤼카가 만든 판정법을 개량해 오늘날의 뤼카-레머 판정법을 만들었다. - 위키미디어 제공

● 특별 인터뷰-메르센 소수 찾기 선수! ‘커티스 쿠퍼’

커티스 쿠퍼 교수는 49번째 메르센 소수의 발견으로 벌써 4번이나 새로운 메르센 소수를 발견한 사람이 됐다. 무슨 비법이 따로 있는 걸까? 수학동아가 쿠퍼 교수와 이메일로 이야기를 나눴다.

쿠퍼 교수가 2013년에 48번째 메르센 소수를 발견했을 때 찍은 사진 - 커티스 쿠퍼 제공

Q 소수를 찾는 일에 흥미를 느끼게 된 이유는 무엇인가요?
A 어렸을 때부터 정수론과 소수에 큰 관심을 가지고 있었습니다. 자연스럽게 새로운 소수를 찾는 일에도 흥미가 생겼습니다.

Q 메르센 소수 공동프로젝트에 참여하게 된 계기가 있으신가요?
A 저는 미국 아이오와주립대에서 수학을 전공했고, 컴퓨터 과학을 부전공했습니다. 지금도 그 분야를 집중적으로 연구하고 있습니다. 이런 저에게 컴퓨터로 소수를 찾는 메르센 소수 공동프로젝트는 즐거운 놀이터나 다름없었죠(웃음).

Q 벌써 네 번이나 메르센 소수를 발견하셨는데, 비법이 있을까요?
A 저는 오랫동안 메르센 소수 공동프로젝트에 참여했습니다. 벌써 19년이나 됐네요. 꽤 긴 시간 동안 꾸준히 하다 보니 좋은 결과가 나올 수 있었다고 생각합니다. 또, 제가 교수로 있는 센트럴미주리대의 도움이 컸습니다. 우리 학교에서 많은 컴퓨터를 이용해 메르센 소수를 찾을 수 있게 도와줬습니다.

Q 49번째 메르센 소수를 찾으면서 어떤 사연이 있었나요?
A 네. 사실 49번째 메르센 소수는 지난해 9월 17일에 발견됐습니다. 하지만 보고 시스템에 문제가 생기면서 이 소식이 제대로 전달되지 않았습니다. 이렇게 49번째 메르센 소수는 사람들에게 알려지지 못할 뻔했죠. 그런데 메르센 소수 공동프로젝트의 서버 관리자인 애런 블라서가 지난 1월 7일에 새로운 메르센 소수가 발견됐다는 것을 알아차렸지요. 그는 바로 이 소수에 대한 검증 작업을 시작했고, 1월 9일 검증이 완료됐습니다. 그리고 1월 19일 세계의 모든 사람들에게 이것을 알렸지요.

​

Q 마지막으로 수학을 사랑하는 학생들에게 해주고 싶으신 말이 있나요?
A 지금처럼 수학을 사랑하고 꾸준히 공부하셨으면 좋겠습니다. 수학은 가장 아름다운 지식의 결정체니까요.

 동아사이언스