수학자도 못 푼 방식으로 카마이클 수에 관한 문제를 증명했어요. 정말 멋진 연구입니다.”
- 제임스 메이나드 -
다니엘 라슨 미국 매사추세츠공대(MIT) 1학년 학생이 고등학교 3학년 때 정수론의 30년 묵은 난제를 푼 사실이 알려져 화제입니다. 2022 필즈상 수상자인 제임스 메이나드 영국 옥스퍼드대 교수는 본인의 연구에서 제시한 방법을 이용해 고3 학생이 8개월 만에 문제를 해결한 것이 놀랍다고 밝혔습니다.
라슨 학생은 중학교 3학년 무렵 ‘쌍둥이 소수 추측’에서 성과를 낸 수학자 이야기가 담긴 다큐멘터리를 본 후 쌍둥이 소수 추측 연구에 빠졌고, 그 과정에서 소수와 성질이 비슷한 ‘카마이클 수’의 비밀을 풀게 됐다고 합니다. 문제가 무엇인지, 문제를 푼 비결은 무엇인지 낱낱이 파헤쳐 보겠습니다.
라슨 학생이 정수론 난제를 풀게 된 계기는 중국계 미국 수학자 장이탕의 인생 역전 스토리가 담긴 다큐멘터리를 본 것입니다.
2017년 중학교 2학년이었던 라슨은 미국 인디애나대 강연장에서 장이탕 미국 산타바바라 캘리포니아대 수학과 교수의 이야기가 담긴 다큐멘터리 ‘무한으로부터 수 세기(Counting from Infinity)’를 봤습니다. 이 다큐멘터리는 생활고에 시달리던 무명의 수학자 장이탕 교수가 어려움 속에서도 수학 연구의 끈을 놓지 않고 연구해 2013년 4월 ‘쌍둥이 소수 추측’에 관한 성과를 내며 이를 1년 뒤 수학계에서 가장 권위 있는 학술지인 <수학 연보>에 발표해 단숨에 정수론 중요 인물로 급부상하게 되는 인생 대역전극을 담고 있습니다.
장 교수의 논문이 발표되자 각종 미디어는 물론 수학계가 그의 연구에 관심을 갖기 시작했습니다. 정수론의 대가라고 불리는 앤드루 그랜빌 캐나다 몬트리올대학교 교수는 다큐멘터리에서 “큰 기관에서 연구하지 않고, 혼자 스스로 이런 난제를 푼다는 것은 전례 없는 일이었다”라고 그의 연구가 얼마나 대단한지 설명했습니다.
이전부터 소수에 관심이 있었던 라슨은 무명의 수학자가 모든 수학자가 풀고 싶어 하는 문제인 쌍둥이 소수 추측에서 의미 있는 결과를 냈다는 사실이 너무 멋있다고 생각했습니다.
라슨은 “아주 많은 새로운 아이디어를 만들었고, 다른 수학자가 연속한 두 소수의 간격을 줄일 수 있는 발판을 만들었다”며 장 교수에게 매료된 이유를 밝혔습니다.
그는 다큐멘터리에서 쌍둥이 소수에 관해 설명하는 부분을 인상 깊게 보고, 바로 다큐멘터리에 나온 논문을 읽기 시작했습니다. 당연히 중학교에서 배운 개념만으로는 논문을 이해하기는 너무 어려웠습니다. 2년이 지나자 함수 계산은 그나마 따라갈 수 있었지만, 그 속에 담긴 수학 개념이나 전체적인 구조는 이해하기 힘들었다고 합니다.
그래서 2022 필즈상 수상자인 제임스 메이나드 교수의 논문을 하나하나 따라 써보면서 이해하려고 노력했습니다. 개념을 이해하기 위해 정수론 공부를 하기도 했고 메이나드 교수의 연구를 어느 정도 이해하는 데에만 2년이나 걸렸다고 합니다.
그렇게 4년이 지난 어느 날 그는 소수와 유사한 성질을 가지는 ‘카마이클 수’가 무한하다는 증명이 담긴 1994년 논문을 보게 됩니다. 그리고 쌍둥이 소수 추측 도전에 앞서 이 문제를 풀기로 합니다.
카마이클 수는 소수와 유사해 소수를 대신해 암호학에 활용된다고 하는데요. 대체 라슨은 어떤 문제를 푼 걸까요.
카마이클 수는 소수와 비슷한 성질을 가지는 유사 소수입니다. 페르마의 소정리에 의해 n이 소수이면 b가 1보다 큰 자연수일 때 bⁿ- b는 항상 n의 배수인데, 카마이클 수는 합성수이지만 이를 만족합니다. n이 소수가 아닌 합성수일 때 이 조건을 만족하는 n을 카마이클 수라고 부릅니다.
1910년 미국 수학자 로버트 다니엘 카마이클이 처음으로 카마이클 수의 최솟값이 561이라는 것을 알아내 그의 이름이 붙었습니다.
수학자들은 카마이클 수가 소수의 또다른 성질을 만족하는지 연구했습니다. 그러다 1994년 2와 4 사이에 소수 3이, 10과 20 사이에 소수 11, 13, 17, 19가 있듯이 X가 3보다 큰 자연수일 때 X와 2X 사이에 소수가 무조건 존재한다는 ‘베르트랑 가설’이 카마이클 수에도 적용될 거라고 추측했습니다.
2016년 메이나드 교수는 소수의 분포에 관한 논문을 발표했는데 라슨은 여기에 나온 방법을 활용해 자연수 X가 충분히 클 때 X와 2X 사이에 카마이클 수가 항상 존재하며, 최소 몇 개가 있는지 알 수 있는 수식을 알아냈습니다.
메이나드 교수는 “라슨이 메일로 내 논문에 대해 질문했던 기억이 난다”며, “그땐 누군지 몰랐는데 당시 청소년이었던 걸 최근 라슨의 기사를 통해 알았다”고 놀라워했습니다. 또한 라슨의 연구에 관해서도 “몇몇 수학자가 내 논문에 나온 방법을 이용해 카마이클 수에 적용하려고 했던 것으로 안다”며, “라슨의 증명은 기존의 수학자들도 떠올리지 못한 전략으로 이 문제를 풀었다는 점에서 정말 대단하다”고 전했습니다.
라슨은 입시 준비하기도 바쁜 고3 때 무려 8개월을 투자해 난제를 풀었습니다. 10월 30일 라슨 학생을 화상으로 만나 2시간 동안 이야기를 들어봤습니다.
Q. 연구 결과가 학술지에 실렸어요. 축하합니다! 소감이 궁금해요.
"감사합니다. 논문 게재 소식을 듣고 정말 기뻤어요. 운이 좋았지요. 사실 저는 논문이 학술지에 게재된 사실보다 연구 과정에서 수학의 아름다움을 안 게 가장 큰 상인 거 같아요."
Q. 8개월 동안 매일 2시간씩이니 이번 문제를 푸는 데 거의 480시간이 걸렸어요. 이를 예상했나요?
"아니요. 얼마나 걸릴지는 몰랐어요. 단지 문제를 푸는 게 흥미롭고 재밌어서 한 거예요. 지난해 코로나19로 혼자만의 시간이 많아져서 어떤 재밌는 활동이 있을까 생각하던 차에 이 연구를 하게 됐거든요."
Q. 보통 고3은 대학 입시 준비로 바쁜데 하루에 2시간을 내서 연구하는 게 부담스럽지 않았나요?
"그렇지 않았어요. 오히려 이번 연구 활동이 MIT 합격에 도움이 됐는걸요. 미국 대학을 입학하는 데 학교 성적이 중요하긴 하지만, 그것이 당락을 좌우할 정도는 아닌 거 같아요. 자신이 한 활동을 글로 적는 에세이가 큰 역할을 하지요.
저는 오랫동안 수학에 관심을 가지고 연구한 사실과 음악에 대한 열정을 에세이로 썼는데 그 점에서 높은 점수를 받은 것 같아요. 특히 이번 연구를 한 과정을 잘 정리해 미국에서 가장 권위 있는 수학·과학경시대회인 ‘리제네론 과학경시대회’에서 발표했는데 최종 4등을 했어요. 이 수상이 합격에 큰 영향을 미쳤다고 생각해요."
Q. 8개월 동안 포기하지 않고 한 문제를 푼다는 게 대단한 것 같아요.
"긍정적인 성격 덕분인 것 같아요. 저는 대체로 모든 일에 긍정적이에요. 분명히 문제가 저를 좀먹을 때가 있어요. 문제를 풀지 못해 힘들어 했죠. 하지만 그 좌절에도 포기하지 않았어요. 돌아보면 문제를 푸는 것이 재밌었거든요. 또 수학이 제 인생에 있어서 아주 큰 부분을 차지하긴 하지만 인생의 전부는 아니라고 생각하니 더 집중할 수 있게 됐어요."
Q. 수학에 관심을 갖게 된 계기가 궁금해요.
"매우 자연스러웠어요. 부모님 두 분이 모두 수학자라 항상 수학 이야기를 나눴고, 그 내용이 항상 제게 매혹적이었거든요. 10년 전쯤인가 공원에서 가족들과 수학 얘기를 한 적이 있었어요. 가족들은 지금 있는 곳에서 목적지까지 가려면 대각선으로 가는 게 가장 짧다는 결론을 냈어요. 저는 정확하게 대각선으로 가는 길이 없어 계단식으로 지그재그로 가야 하니 이렇게 가는 것도 언제나 짧은 길은 아니라는 주장했었어요. 부모님이 그 답에 놀라셨던 기억이 나요."
Q. 수학을 잘하는 비법이 있나요?
"수학에 대해서 항상 생각해요. 머릿속에서 문제를 새롭게 만들기도 하고, 이 문제에 오류가 있는지 없는지 따져 보기도 해요. 일단 문제가 떠오르면 ‘매스오버플로우(MathOverFlow)’에 가서 사람들에게 공유해요. 이후 참고가 될 만한 논문을 찾고, 또 관련 논문을 찾고, 이런 식으로 하나하나 차근차근 넘어가면서 수학을 공부해요. 문제를 풀 땐 최대한 많은 것을 시도해 봐요. 대부분 안 풀리는 게 당연하니까 포기하지 않고 계속 해나가는 편이에요. "
Q. 앞으로 어떤 수학자가 되고 싶어요?
"저는 수학의 가장 큰 매력이 서로 다른 분야를 연결해서 문제를 푸는 점이라고 생각해요. 테렌스 타오, 제임스 메이나드 교수 모두 그렇게 난제를 해결했어요. 저도 여러 분야의 방법론을 이용해서 하나의 문제를 푸는 수학자가 되고 싶어요."
Q. 수학자만 난제를 풀 수 있다고 생각하는 학생들에게 조언을 한다면요?
"다른 사람의 시선을 신경 쓰지 않았으면 좋겠어요. 어려운 문제를 풀겠다고 하면 약간 이상하게 보거든요. 안 된다고 못 박기도 하고요. 그러든 말든 그냥 해 보세요. 스스로 재밌으면 되지요. 그리고 어려운 문제를 푸는데 대단한 아이디어가 필요한 게 아니에요. 그러니까 두려워하지 말고 일단 시도해 보세요."
