집단지성 폴리매스 프로젝트 힘을합쳐 난제를 풀자

수학에서도 여럿이 함께 문제를 푸는 공동 연구가 가능할까? <출처: Robert Scarth at flickr.com>

수학자에 대해 궁금하다면? 기자는 가장 먼저 위키백과에 적힌 내용을 살펴본다. 누가 썼는지 알지 못하지만 그 정보를 어느 정도는 믿는다. 누군가 잘못된 정보를 올려도 곧바로 이 분야에 대해 잘 아는 사람이 보고 내용을 옳게 고치기 때문이다. 이처럼 많은 사람들이 자발적으로 참여해 지식을 나눠 만든 결과를 ‘집단지성’이라고 부른다. 경영학과 사회학은 물론, 생물학과 물리학 등 다방면에서 집단지성 프로젝트가 활발하게 진행되고 있다. 그렇다면 수학에서도 집단지성 프로젝트가 가능할까?

수학에서도 대규모 연구가 가능할까?

2009년 1월, 필즈상 수상자인 티머시 가워스는 블로그에 ‘수학에서 대규모 공동연구가 가능할까?’라는 제목의 글을 하나 올렸다.1) 인터넷을 활용해 전세계 수학자들이 힘을 합쳐 공동으로 연구하면 난제도 쉽게 풀 수 있다고 생각한 것이다. 그는 대규모 수학 프로젝트를 진행하기 위한 12가지 규칙도 제시했다. 아주 엉뚱한 질문이나 아이디어도 환영하며, 엉뚱한 이야기를 했다고 공격하지 않는다. 글은 최대한 이해하기 쉽게 쓴다는 등의 내용이 포함돼 있었다.

한 달 뒤, 가워스는 뜻을 함께한 캐나다의 수학자 마이클 닐슨과 함께 ‘폴리매스(Polymath) 프로젝트’를 시작했다.2) 함께 풀 첫 번째 문제는 가워스가 오랫동안 끙끙 앓았던 문제로 정했다. 밀도와 관련된 ‘헤일스-주잇 정리’의 조합적 풀이를 찾는 것이다. 조합적 풀이란 고등학생도 이해할 수 있도록 고급 수학을 사용하지 않고 증명하는 방법이다.

수학 분야의 노벨상이라고 불리는 필즈상 수상자, 티모시 가워스가 시작한 폴리매스 프로젝트에는 테렌스 타오를 비롯한 여러 수학자들이 참여하여 공동으로 수학 문제를 풀고 있다.

밀도와 관련된 헤일스-주잇 정리는 3차원 빙고로 설명할 수 있다. 3차원 빙고판에 빈칸이 하나도 없도록 구슬을 올려놓고 원하는 비율만큼(예를 들어 1/10) 구슬을 무작위로 고른다. 그러면 선택된 구슬 중에 빙고가 되는 게 반드시 있다는 것이다. 물론 4×4×4(=43) 빙고판에서 구슬 6개를 고르면 빙고가 없을 수도 있다. 3차원을 n(충분히 큰 수)차원으로 늘려 빙고 칸의 개수가 4n이 된 다음 이같은 방법을 쓰면 빙고가 되는 경우가 반드시 있다.

가워스는 지금까지 알아낸 내용을 인터넷에 공개하며 함께 문제를 풀자고 제안했다. 프로젝트가 시작되고 7시간 동안은 아무런 반응이 없었다. 그러다 영국 수학자 조세프 소모로시가 짧은 의견을 달면서 연구에 박차가 가해졌다. 얼마 지나지 않아 제이슨 다이어라는 고등학교 교사가 한 가지 제안을 올렸고, 이어 테렌스 타오가 의견을 이야기했다. 그 뒤로 한 달 동안 27명이 수시로 의견을 나누며 문제를 풀었고, 37일 만에 문제에서 가장 핵심이 되는 부분을 해결했다. 첫 번째 프로젝트가 대성공을 거둔 것이다.

➊ 난제를 해결하려면 행운이 필요하다. 여러 명이 참여하면 행운을 얻을 가능성이 커진다.
➋ 다양한 분야의 사람들이 모이면 미처 생각지 못했던 새로운 아이디어를 떠올릴 수 있다.
➌ 각자 잘하는 특정 부분만 담당하면 되기 때문에 효율적인 연구가 가능하다.
➍ 논문 저자는 ‘폴리매스 프로젝트’로 나오지만, 홈페이지에서 누가 얼마나 기여했는지 투명하게 알 수 있어 이름 없는 수학자도 쉽게 유명해질 수 있다.

인터넷에서 공동 연구하자! 폴리매스 프로젝트

이후 가워스와 타오가 주축이 돼서 폴리매스 프로젝트를 이끌어갔다. 차례로 폴리매스 2번, 3번, 4번을 발표했다. 하지만 이렇다 할 성과가 나지 않았다. 부진은 3년 동안이나 이어졌고, 함께 풀 문제가 7개까지 늘어났지만 좋은 결과가 나오지 않았다. 상황이 이렇게 되자 과연 수학에서 대규모 연구가 효과적인지 의문을 제기하는 사람들도 나타났다.

그러던 2013년 8월, 폴리매스 8번 문제에서 생각지도 못한 엄청난 성과가 나오면서 폴리매스 프로젝트가 재조명됐다. 8번 문제는 그 해 5월 수학계를 깜짝 놀라게 한 중국의 수학자 이탕 장의 연구를 발전시키는 것이다. 이탕 장은 소수 가운데 차이가 n(1부터 7000만까지 가능한 자연수)인 소수쌍이 무한히 많다는 것을 증명했다. 쌍둥이 소수 추측은 소수 사이의 간격이 2인 소수가 무한히 많다는 가설이다. 여기서 n이 2가 되면 쌍둥이 소수 추측이 해결된다.

폴리매스 8번 문제를 있게 한 주인공 이탕 장. 그는 50대 중반까지 제대로 된 직장도 없이 오직 수학 연구에 몰두한 무명의 수학자였다. 샌드위치 가게에서 아르바이트 하면서 틈틈이 쌍둥이 소수 추측을 풀기 위해 노력했다. 포기하지 않고 끈질기게 노력한 끝에 쌍둥이 소수 추측과 관련된 중요한 사실을 알아냈다. 현재(2016년) 미국 뉴햄프셔대 수학과 교수로 재직 중이다.

이탕 장의 연구가 발표되자 수학계는 흥분했다. 폴리매스 프로젝트도 곧바로 이탕 장의 연구 방법을 활용해서 n을 더 작은 값으로 끌어내리기 위한 연구에 돌입했다. 여러 명의 지식이 더해지자 연구에 가속도가 붙었다. 이탕 장의 논문이 발표되고 세 달 만에 n이 7000만에서 4680까지 줄어드는 놀라운 성과를 냈던 것이다.

짧은 기간 동안 모든 걸 불태운 탓인지 8월 이후 3개월 동안 진척이 없었다. 그러던 2013년 11월 옥스퍼드대에서 박사학위를 갓 받은 젊은 수학자 제임스 메이나드가 독자적으로 연구해 n을 600까지 끌어내렸다는 소식이 발표됐다. 메이나드는 더 이상 혼자 힘으로 n을 더 줄일 수 없자 폴리매스 프로젝트에 참여했다. 메이나드의 연구에서 영감을 얻은 수학자들은 다시 열정을 불태웠고, 2014년 4월, n을 246까지 줄였다. 수학자들은 지금도 n의 값을 줄이기 위한 연구를 하고 있다. 2016년 7월에도 관련 연구가 폴리매스 프로젝트 사이트에 올라왔다. 잠시 잠잠한 상태지만 언제 다시 불이 붙을지 모른다.

현재 수학자들은 2016년 1월 올라온 11번 문제까지 포함해서 총 9문제를 함께 풀고 있다. 앞으로 어떤 결과로 수학계를 놀라게 할지 기대된다.

수학자는 누가 더 공헌했는지 따지지 않는다

과학과 달리 수학은 논문만 봐서는 누가 연구에 가장 크게 기여했는지 알 수 없다. 과학에서는 대부분을 집필하고, 핵심 아이디어를 낸 사람을 ‘제1저자’라고 해서 논문 가장 앞에 쓴다. 뒤로 제2저자와 제3저자가 이어진다. 마지막은 ‘교신저자’라고 해서 연구자들에게 연락하고 조율한 사람의 이름을 쓴다. 따라서 논문만 봐도 누가 이 연구의 핵심이었는지 알 수 있다.

하지만 수학 논문의 경우는 다르다. 기여도에 상관없이 가나다순이나 알파벳순으로 이름을 쓴다. 기여도가 99%라고 할지라도 이름이 마지막에 올 수 있다. 수학자는 불만이 없을까?

수학에서는 공저자의 기여도를 따지지 않는다. 문제 해결에 꼭 필요한 아이디어를 내야만 논문에 공저자로 오르기 때문에 굳이 누가 더 공헌했는지 묻지 않는다. <출처: Ed Brambley at flickr.com>

엄상일 KAIST 수리과학과 교수는 “100쪽짜리 논문에서 1쪽에 해당하는 일을 해도 이 아이디어가 없으면 문제가 풀리지 않기 때문에, 중요치 않다고 말할 수 없다”고 설명했다. 덧붙여 “과학에서는 연구에서 중요한 핵심 아이디어를 내지 않아도 실험에 참여했다면 공저자가 되기 때문에 기여도를 따지지만, 수학에서는 문제를 해결하는 데 꼭 필요한 아이디어를 내야지만 공저자가 되기 때문에 굳이 따질 필요가 없다”고 말했다.

고등학생판 폴리매스 프로젝트, 크라우드 매스

폴리매스 프로젝트와 같은 대규모 집단 연구는 수학자만 할 수 있는 걸까? 2009년 7월, 테렌스 타오는 중·고등학생을 대상으로 국제수학올림피아드 문제를 함께 풀어보자고 제안했다. 미해결 문제가 아닌 문제도 온라인상에서 함께 푸는 것이 가능한지 시험해 본 것이다.

첫 번째는 문제는 2009년 국제수학올림피아드 6번 문제로, 그해 시험에서 가장 어려운 문제였다. 하지만 우수한 고등학생이라면 풀 수 있는 문제인 만큼 반드시 온라인상에서만 풀자고 규칙을 하나 더 추가했다. 떠오른 아이디어나 수식 전개를 연습장에 적지 말라는 것이다. 그 결과 새로운 증명법 6가지를 더 발견했다. 수학자들은 2012년까지 매해 그해 가장 어려웠던 문제를 폴리매스 프로젝트를 통해 함께 풀었고, 다양한 풀이법을 찾았다.

수학자뿐 아니라 고등학생을 대상으로 수학 문제를 함께 풀어보는 프로젝트도 진행되고 있다.

2016년 3월, 미국 매사추세츠공대(MIT)는 고등학생판 폴리매스 프로젝트, 이른바 ‘크라우드 매스(CrowdMath)’를 시작했다.3) 고등학생과 대학생이 온라인상에서 공동연구할 수 있는 장소를 마련한 것이다.

국제수학올림피아드 문제가 2시간 안에 풀 수 있는 문제라면, 여기에 실린 문제는 언제 풀릴지 시간을 가늠할 수 없다. 미해결 난제처럼 기발한 아이디어가 떠오르면 언제라도 풀 수 있지만, 떠오르지 않으면 언제 풀릴지 알 수 없다. 영재교육원과 고등학교에서 진행하고 있는 R&E(Research and Education) 문제와 비슷하다고 생각하면 된다.

R&E 문제는 짧으면 몇 주, 길면 몇 달에 걸쳐서 교사와 교수의 도움을 받아 풀 수 있는 문제다. 결과가 좋으면 수학자처럼 논문을 낼 수 있다. 크라우드 매스에 실린 문제 역시 논문 출간이 가능하다. 벌써 문제를 해결하고 논문을 쓴 고등학생도 있다.

논문까지 낼 수 있는 만큼 문제의 난이도는 매우 높다. 크라우드 매스는 ‘art of math problems’이라는 사이트의 일부인데, 본래 이 사이트 자체가 국제수학올림피아드를 준비하는 학생들의 성지와 같은 곳이다. 오로지 수학 영재를 위한 강의와 문제를 제공한다

과학동아