2018년 9월 21일 금요일

수학난제 '리만가설' 마침내 증명?…세계 수학계 '들썩'

영국 수학자 마이클 아티야 박사 '증명' 소문 SNS에 돌아

영국 수학자 마이클 아티야 박사(89)가 수학계 최대 난제 중 하나로 꼽히는 '리만 가설'(Riemann Hypothesis)을 증명했다는 소문이 사회관계망서비스(SNS)에 확산해 큰 관심을 끌고 있다.

리만가설, 마침내 증명?[하이델베르크 수상자 포럼 트위 캡처=연합뉴스]

독일 하이델베르크 수상자 포럼(HLF 2018)은 21일 트위터를 통해 오는 24일 마이클 아티야 박사가 강연을 통해 리만가설 증명에 관해 설명할 예정이라고 밝혔다.

리만가설은 숫자 가운데 1과 자신으로만 나누어지는 수인 소수의 성질에 관한 것으로, 독일 수학자 베른하르트 리만(1826~1866)이 1859년에 내놓은 가설이다.

이 가설은 '리만제타(ζ) 함수'로 불리는 복소함수의 특별한 성질에 관한 것으로 수학계에서 아직 풀리지 않은 가장 중요한 난제 중 하나다. 미국 클레이수학연구소(CMI)가 상금 100만달러를 내건 7대 난제 중 하나이기도 하다.

그동안 수많은 수학자가 리만가설 증명에 도전해 왔으며 저명한 수학자들도 여러 차례 증명했다는 주장을 펴기도 했으나 학계의 검증을 통과하는 데는 실패했다.

일반인들은 리만가설 증명 소식에 뜨거운 반응을 보이며 SNS를 달구고 있다.

리만가설이 다른 수학 난제들보다 일반인에게 비교적 널리 알려진 데다, 해결을 주장하는 아티야 박사가 수학계의 노벨상으로 불리는 '필즈 메달'과 '아벨상' 등을 받은 세계적인 수학자이기 때문으로 보인다.

특히 리만가설은 이것이 증명될 경우 소수를 근간으로 한 컴퓨터 공개키 암호 체계가 무용지물이 될 수도 있다는 우려가 따라다녀 더욱 관심을 집중시킨다.

하이델베르크 수상자 포럼 측이 트윗으로 이 소식을 알리자 많은 사람이 댓글 등을 통해 그가 발표할 강연의 초록(abstracts)을 요청하거나 강연 동영상을 볼 수 있는지 묻는 등 큰 관심을 보이고 있다.

그러나 학계 반응은 신중하다. 아티야 박사가 실제로 리만가설을 증명한 것인지는 그의 발표 내용을 보고 엄격한 검증과정을 거쳐야 알 수 있다는 것이다.
연합뉴스

100만불을 노려라! 수학 7대 난제


지난 2000년 5월 프랑스 파리에서 미국의 클레이수학연구소가 공식적인 회견을 통해 현대 수학의 7대 난제를 제시하고 각각에 100만 달러 현상금을 내걸었다. ‘밀레니엄 수학 7대 난제’(이하 7대 난제)라고 불리는 이 공모는 기간제한이 없으며, 문제를 풀고 국제 학술지에 게재한 후 2년 동안 검증과정을 거쳐 오류가 없다고 판단되면 현상금을 지급한다.
수학 난제의 공모 역사는 1900년 8월 8일 파리로 거슬러 올라간다. 제2차 국제수학자회의 초청 강연에서 당시 수학계를 이끌던 독일 수학자 힐베르트는 20세기 수학 발전을 위해 해결해야할 미해결 문제 23개를 나열했다. ‘힐베르트 문제’로 불리는 이 문제들은 그가 생각한 것보다 쉬운 문제도 있었지만, 대부분 매우 어렵고 중요한 문제로 인정받았다.
그동안 수많은 수학자가 힐베르트 문제에 도전해 대부분을 푸는데 성공했다. 이 사건은 20세기 수학 발전에 지대한 영향을 준 것으로 평가받는다. 클레이수학연구소는 이런 기대를 가지고 7대 난제를 미국이 아닌 파리에서 발표했다.
얼마나 어렵고 중요한 문제이기에 무려 100만 달러나 주는 것일까? 우선 어떤 문제인지 이름만 나열해 보자. 7대 난제는 리만 가설, P대 NP 문제, 푸앙카레 추측, 호지 추측, 내비어-스톡스 방정식, 양-밀스 이론과 질량 간극 가설, 버츠와 스위너톤-다이어 추측이다.
전문가에 따르면 7대 난제를 일반인이 이해하기는 매우 어렵고, 수학에 대한 호기심과 도전 정신이 높은 아마추어 수학자조차 도전하기 쉽지 않다고 한다. 이에 필자는 힐베르트의 8번째 문제였지만 약 150년 동안 풀리지 않아 다시 7대 난제에 포함된 리만 가설을 중심으로 간략하게나마 소개하고자 한다.
리만 가설은 1859년 독일 수학자 리만(G. Riemann)에 의해 처음 제기돼 아직까지 풀리지 않은 난제다. 리만 가설은 어떤 복소수로 만들어진 함수가 0이 되는 값들의 분포에 대한 가설이다. 리만 가설에 쓰이는 리만의 제타함수는 다음과 같이 정의된다.
ζ(s) = 1 + 2-s + 3-s + 4-s + ··· (s는 복소수)
이 함수값을 0으로 하는 해 중에서 실수부가 1 이상인 복소수는 없고, 실수부가 0 이하인 복소수에 대해서는 -2, -4, -6, ···처럼 음의 짝수인 경우만 해가 될 수 있다는 것이 밝혀졌다.
그런데 리만은 실수부가 0보다 크고 1보다 작은 복소수에 대해서는 해가 무한이 많다는 사실을 알게 됐다. 여기서 ‘실수부가 0보다 크고 1보다 작은 복소수의 해에서 실수부는 모두 1/2일지도 모른다’는 생각을 하게 됐는데 이것을 ‘리만 가설’이라고 부른다.
이 함수는 모든 소수에 대한 오일러 곱공식으로 나타낼 수 있다. 즉 리만 가설의 핵심에는 2, 3, 5, 7과 같이 1과 자기 자신으로만 나눠지는 소수에 어떤 패턴이 있다는 내용이 담겨있어 리만 가설이 풀리면 소수를 쉽게 찾아낼 수 있게 된다. 이것은 현재까지 널리 사용되는 소수를 이용한 ‘공개키 암호체계’가 무용지물이 될 수 있다는 얘기다.
소수를 이용한 공개키 암호체계는 예를 들어 설명하면 다음과 같다. ‘22,663은 어떤 소수의 곱인가’를 물으면, 즉 인수분해를 하라고 하면 시간이 많이 걸린다. 반면 ‘131x173을 계산하라’고 하면 앞에서보다 훨씬 빠르게 22,663이 나온다. 이처럼 곱하는 것은 쉬워도 역으로 인수분해가 어려운 특성을 고려해 만든 체계가 공개키 암호체계다.
현재는 소수의 자리수를 수십에서 1백자리 이상으로 늘려서 암호로 사용하고 있다. 이렇게 만들어진 수는 자리수만 수백자리가 되므로 어떤 수의 곱으로 이뤄졌는지 슈퍼컴퓨터로 계산하더라도 수천년에서 수억년 이상이 걸려 우리는 암호를 풀 수 없다고 말한다. 그런데 리만 가설이 풀리면 소수 패턴을 알아내 소수를 빠르게 구할 수 있게 되고, 이에 따라 암호로 사용된 소수를 쉽게 찾아져 공개키 암호체계가 무용지물이 되는 것이다.
혼자 연구했던 리만은 가설의 증거를 남기지 않고 죽을 때 모든 서류를 불태워버렸다. 영화 ‘뷰티풀 마인드’의 실제 주인공이며, 1994년 노벨경제학상 수상자인 존 내쉬가 리만 가설을 풀기위해 노력했으나 실패했다고 알려져 있다. 2004년 미국 퍼듀대의 루이스 드 브랑지 교수가 문제를 풀었다며 가설 증명을 발표했으나 아직 현상금이 주어지지는 않았다.
나머지 6가지 난제를 간단히 요약하면 다음과 같다.
◆ 버츠와 스위너톤-다이어 추측(Birch and Swinnerton-Dyer Conjecture) :
타원곡선을 유리수로 정의하는 방정식이 유한개의 유리수해를 가지는지 무한개를 가지는지를 알 수 있는 간단한 방법을 구하라.
◆ 푸앙카레 추측(Poincare Conjecture) :
어떤 하나의 밀폐된 3차원 공간에서 모든 밀폐된 곡선이 수축돼 하나의 점이 될 수 있다면 이 공간은 반드시 원구()로 변형될 수 있다는 것을 증명하라.
◆ 호지 추측(Hodge Conjecture) :
어떤 대상체도 모두 기하학 조각의 조합이라는 사실을 증명하라.
◆ P대 NP 문제(P vs NP Problem) :
알고 보면 쉬운 문제가 답을 알기 전에도 쉬운 문제인지 증명하라.
◆ 내비어-스톡스 방정식(Navier-Stokes Equation) :
비행기 날개 위로 흐르는 공기 같은 기체 흐름과 배 옆으로 흐르는 물 같은 유체의 흐름을 기술하는 편미분 방정식의 해를 구하라.
◆ 양-밀스 이론과 질량 간극 가설(Yang-Mills and Mass Gap) :
양자물리학에서 나온 ‘원자 양-밀스 이론’과 ‘질량 간극가설’을 수학적으로 입증하라.
지금까지 제시한 수학의 7대 난제를 보면서 나와 거리가 멀고 당장 돈이 되거나 실용성이 없다고 생각할 수 있다. 하지만 고등학교 시절 수학자에게만 필요할 것이라 생각되던 미적분이 미래를 여는 과학기술의 기초가 되고 있다는 점을 생각한다면 문제를 보는 눈이 달라질 것이다. 실용성과 현실성이 미래를 향한 길이라면 호기심과 도전은 지름길이 아닐까?
KISTI의 과학향기

수학에서의 밀레니엄 문제

파일:attachment/왕하칠문제.png
수학계 최종 보스. 일명 수학 7대 난제.
하버드 대학의 수학자들이 '클레이 수학연구소'라는 단체를 만들면서 2000년 제시한 21세기 수학계에 기여할 수 있는 7가지 문제를 의미한다. 한 문제당 100만 달러의 상금이 걸려 있는 문제들로, 페르마의 대정리를 증명한 앤드루 와일스도 문제 선정에 관여했다고 한다.[1]
그러나 지금까지 푸앵카레 추측만이 증명되었다. 푸앵카레 추측을 증명한 러시아 수학자 그리고리 페렐만필즈상도 받지 않고 100만 달러도 싫다며 도망쳐서 은둔하고 있다. 이유는 해당 문서 참조. 물론 워낙 궁핍한 처지의 사람이라 언젠가는 100만 달러 받으러 올지도 모른다는 이야기도 있지만, 심지어 필즈상 수상도 거부하며 시상식에 나타나지도 않은 사람이 100만 달러를 받기나 할지 의문이라는 사람들도 많다.
푸앵카레 정리는 우리들 중 최약체였지

2. 목록


P-NP 문제, 양-밀스 질량 간극 가설, 나비에-스토크스 방정식은 응용 수학 문제이다. 응용 수학 문제는 일상 언어로 해설해 내기 훨씬 쉽다. 반면에 순수 수학 문제인 호지 추측이나 버츠와 스위너톤-다이어 추측는 적절한 일상 언어로 표현하기 어렵다. 물론 문제를 설명하기 쉽다고 증명하기 쉬운 것은 아니다. 예를 들어 페르마의 대정리 자체는 이해하기 아주 쉽지만, 그 증명은 엄청나게 어렵다. 증명하는데 필요한 A4용지가 글자 빼곡하게 200페이지가 넘는다!

P-NP 문제는 컴퓨터과학의 계산 이론 분야이며, 양-밀스 질량 간극 가설은 양자 물리학, 나비에-스토크스 방정식은 유체역학(물리학)에 관련된 문제이다. 특히 나비에-스토크스 방정식의 해법은 노벨상도 노릴 수 있을 만한 문제이기도 하다.

3. 힐베르트의 23가지 문제

이것이 21세기의 문제라면, 20세기에는 힐베르트의 23가지 문제가 있었다. 독일의 수학자 다비트 힐베르트(David Hilbert)가 1900년 개최된 국제 수학자 총회에서 제안했다.

리만 가설은 유일하게 밀레니엄 문제와 힐베르트의 문제에 연속으로 선정되었다.

골드바흐의 추측처럼 아직 해결되지 않았지만 밀레니엄 문제에는 선정되지 않은 문제도 여럿 있다.


[1] 일설에 따르면, 페르마의 대정리를 증명한 후, 수많은 수학자들과 아마추어 수학자들이 새 문제 만들어주세요!하고 징징거렸다고 한다. 그래서 추가된게 페르마의 대정리처럼 타원곡선에 연관이 깊은 버츠와 스위너톤-다이어 추측.  나무위키 

수학계의 에베레스트' 세계 7대 수학 난제, 풀면 상금이…

영화 '뷰티풀 마인드'의 실존 인물 수학자 존 내쉬는 리만 가설 증명을 위해 몰두했으나 실패했다. / 사진=영화 '뷰티풀 마인드' 스틸컷
영화 '뷰티풀 마인드'의 실존 인물 수학자 존 내쉬는 리만 가설 증명을 위해 몰두했으나 실패했다. / 사진=영화 '뷰티풀 마인드' 스틸컷

세계 7대 수학 난제란 2000년 미국 클레이수학연구소에서 선정한 수학계의 7가지 중요 미해결 문제로, 밀레니엄 문제라고도 한다.

7대 수학 난제는 △리만 가설 △P 대 NP 문제 △양-밀스 이론과 질량 간극 가설 △푸앵카레 추측 △내비어-스톡스 방정식 △버치와 스위너톤-다이어 추측 △호지 추측이다.

'리만 가설'은 1900년 독일 수학자 힐베리트가 제시한 중요 수학 문제 20가지 중 유일하게 미해결로 남아있는 문제다. 1859년 독일 수학자 리만에 의해 처음 제기했다. 리만은 3, 5, 7 등 1과 자신으로만 나눌 수 있는 수인 소수(Prime Number)의 등장 패턴이 일정하다는 가설을 제시했다.

'P 대 NP 문제'는 '알고 보면 쉬운 문제(NP)가 답을 알기 전에도 쉬운 문제(P)인지 증명하라'는 문제다. 여기서 P는 '1 더하기 1' 처럼 풀기 쉬운 문제를 의미한다. NP는 풀기는 어렵지만 답을 알고 있을 경우 정답 여부 확인이 쉬운 문제다. 예를 들면, '곱이 4717인 두 소수를 구하라'는 문제는 풀기는 어렵다. 하지만 53과 89라는 두 소수를 미리 제시하고 '53 곱하기 89가 4717인가?'라고 묻는다면 확인하기 쉬울 것이다.

'양-밀스 이론과 질량 간극 가설'은 양자물리학에서 나온 양-밀스 이론과 질량 간극가설을 수학적으로 입증하라는 문제다. 양-밀스 이론은 양성자를 구성하는 쿼크와 글루온이 질량이 없다고 설명한다. 그런데 이 둘이 모여 만들어진 양성자는 질량이 있는 모순이 생긴다. 이 질량의 간극을 수학적으로 증명하라는 것이다.


푸앵카레 추측/ 사진=EBS '지식채널e' 영상 캡처
푸앵카레 추측/ 사진=EBS '지식채널e' 영상 캡처
'푸앵카레 추측'은 3차원의 두 물체가 특정 성질을 공유하면 두 물체는 같은 것인지 증명하라는 문제다. 1904년 푸앵카레는 자신의 논문에서 '단일 연결인 3차원 다양체는 구와 같은 것인가"라는 문제를 제기했다. 예를 들면 접시나 수저처럼 구멍이 없는 물체를 찰흙처럼 뭉친다면 구가 될 수 있는 지를 수학적으로 증명하는 문제다.

'내비어-스톡스 방정식'은 비행기 날개 위로 흐르는 공기 같은 기체 흐름과 배 옆으로 흐르는 물 같은 유체 흐름을 기술하는 편미분 방정식의 해를 구하라는 문제다.

'버치와 스위너톤-다이어 추측'은 타원곡선을 유리수로 정의하는 방정식이 유한개의 유리수 해를 가지는지 무한개를 가지는지를 알 수 있는 간단한 방법을 구하라는 문제다.

'호지 추측'은 어떤 대상체도 모두 기하학 조각의 조합이라는 사실을 증명하라는 문제다.

이 문제들에 대한 해법을 전문 학술지에 게재하면 2년간 검증과정 끝에 결함이 발견되지 않는 경우 문제 당 상금 100만 달러(한화 약 10억2120만원)를 받을 수 있다. 공모기간은 무제한이다.

현재 확실하게 증명된 것은 '푸앵카레 추측'이 유일하다. 2002 러시아의 천재 수학자 그레고리 페렐만이 이 문제를 증명했고, 2006년 참으로 인정됐다. 페렐만은 이 공로로 수학계 노벨상인 '필즈상'에 선정됐으나 수상을 거부, 클레이연구소의 상금도 거절했다.
머니투데이

‘쿨내가 진동한다..’ 수학 7대 난제 풀고 상금 100만 달러 거절한 천재 수학자





[카드뉴스] '쿨내가 진동한다..' 수학 7대 난제 풀고 상금 100만 달러 거절한 천재 수학자


'한 문제 당 100만 달러(약 11억 원) 상금을 드립니다' 


미국 클레이수학연구소는 


2000년 5월 24일 '세계 7대 수학난제' 해결 상금 발표했습니다. 


일반인은 문제 이해 조차 어렵고 


내로라하던 수많은 학자를 좌절시킨  


극악 난이도 난제들이었습니다. 


그런데 2년 후 2002년 11월, 


전문 학술지가 아닌 


논문 수집 웹사이트 아카이브(arXiv)에  


논문 하나가 게재됐습니다. 


논문 주인공은 러시아의 무명 수학자 


'그레고리 페렐만(Grigori Yakovlevich Perelman)' 


그가 게재한 논문은 고작 3장 분량. 


수학계는 논문에 적힌 내용을 믿지 않았습니다.  


하지만..얼마 후, 무명 수학자였던 페렐만은 수학계를 발칵 뒤집게 됩니다.

아시아투데이

수학의 7대 난제


지난 2000년, 미국의 클레이수학연구소는 현대 수학의 7대 난제를 제시하고 각각에 100만 달러의 상금을 내걸었다. 이 공모는 기간제한이 없으며, 문제를 풀고 국제 학술지에 게재한 후 2년 동안 검증과정을 거쳐 오류가 없다고 판단되면 상금을 지급한다. 

도대체 얼마나 어렵고 중요한 문제이기에 무려 100만 달러나 주는 것일까?  

단적인 예로 150년 동안 풀리지 않은 문제로 유명한 ‘리만 가설’은 1859년 독일 수학자 리만(G. Riemann)에 의해 처음 제기된 것으로, 2, 3, 5, 7과 같이 1과 자기 자신으로만 나눠지는 소수에 어떤 패턴이 있다는 내용이 담겨있다.

리만 가설이 풀리면 소수를 쉽게 찾아낼 수 있게 되고, 현재 사용하고 있는 소수를 이용한 ‘공개키 암호체계’를 무력화할 수 있다. 

공개키 암호체계는 소수의 자릿수를 수십에서 1백 자리 이상으로 늘려서 암호로 사용하고 있어 슈퍼컴퓨터로 계산하더라도 수천 년이 걸린다. 그러나 리만 가설이 풀리면 소수 패턴을 알아내 소수를 빠르게 구할 수 있게 되고, 이 암호체계는 의미가 없어지게 된다.

이 외에 △타원곡선을 유리수로 정의하는 방정식에 관한 ‘버츠와 스위너톤-다이어 추측’ △어떤 대상체도 모두 기하학 조각의 조합이라는 사실을 증명하는 ‘호지 추측’ △알고 보면 쉬운 문제가 답을 알기 전에도 쉬운 문제인지를 증명하는 ‘P대 NP 문제’ △양자물리학에서 나온 ‘원자 양-밀스 이론’과 ‘질량 간극가설’을 수학적으로 입증하는 ‘양-밀스 이론과 질량 간극 가설’ △기체와 유체의 흐름을 기술하는 편미분 방정식의 해를 구하는 ‘내비어-스톡스 방정식’ △‘푸앙카레 추측’이 수학의 7대 난제다. 
전자신문

상금 10억 원 걸린 체스 문제 탄생!

8×8 체스판에 퀸 8개를 올려놓는 8퀸 문제의 정답 중 하나. 모든 퀸이 서로 다른 세로줄과 가로줄, 대각선에 있다. - FlankerFF(w) 제공
8×8 체스판에 퀸 8개를 올려놓는 8퀸 문제의 정답 중 하나. 모든 퀸이 서로 다른 세로줄과 가로줄, 대각선에 있다. - FlankerFF(w) 제공
9월 1일 이안 겐트 영국 세인트앤드루스대학교 교수팀이 ‘8퀸 문제’를 일반화한 ‘N-퀸 완전 문제’가 NP-완전에 속한다고 발표하면서 무려 10억 원의 상금이 걸린 체스 문제가 탄생했습니다.

N-퀸 문제는 n×n 체스판에 퀸 N개를 놓는 방법을 찾는 겁니다. 체스 규칙에 따라 퀸을 놓아야 하므로 풀기가 만만치 않습니다. 퀸은 상하좌우뿐만 아니라 대각선까지 모든 방향으로 움직이기 때문에 어떤 퀸이 다른 퀸을 공격하지 못하게 막으려면 모든 퀸이 서로 다른 가로줄, 세로줄, 대각선에 있어야 하지요.

교수팀이 선보인 문제는 N개 중 일부가 이미 자리를 잡고 있을 때, 나머지를 올려놓는 겁니다. 문제는 반복되는 규칙이 없어 슈퍼컴퓨터로 일일이 퀸의 위치를 대입해도 답을 찾는 데 수천 년이 걸린다는 거지요. 교수팀은 다항 시간에 답을 찾을 수 없다는 걸 증명해 이 문제가 NP-완전이라는 걸 밝혔습니다. 따라서 이 문제를 푸는 알고리듬을 만든다면 ‘P=NP’라는 수학계 7대 난제를 해결하는 셈이 돼, 미국 클레이 수학연구소가 주는 상금을 받을 수 있습니다. 여러분도 도전하세요!

동아사이언스

수학사를 뒤흔든 14가지 난제 속으로

이언 스튜어트 지음/ 안재권 옮김/ 반니/ 492쪽/ 2만3천원
P/NP문제, 호지 추측, 푸앵카레 추측, 리만 가설, 양-밀스 이론과 질량간극 가설, 나비에-스토크스 방정식, 버츠-스위너튼- 다이어 추측. 현대수학이 아직 해결하지 못한 난제들이다. 특히 2000년 미국의 클레이수학연구소가 ‘세계 7개 난제’로 꼽을 정도로 어려운 수학문제다.

클레이수학연구소는 ‘밀레니엄 난제’라고도 불리는 이들 7대 난제에 각기 100만달러씩의 상금을 내걸고 학자들의 도전을 기다렸는데, 아직까지 해법이 공식화된 것은 푸앵카레 추측 하나뿐이다.

천재수학자들조차 풀지 못해 끙끙대는 수학난제들. 도대체 얼마나 어려운 문제이기에 난제라는 표현을 쓰는 것일까. 하지만 그 풀이과정을 찾아내는 것이 어려울 뿐이지, 문제 자체는 그다지 어렵지 않은 경우가 많다. 그 대표적인 것으로 누구나 한 번쯤은 들어봤을 ‘페르마의 마지막 정리’가 있다.

이 책은 바로 이런 수학난제 중 세계 7대 난제를 포함해 14가지 난제에 대해 쓴 책이다. 일반 독자들도 이해할 수 있을 정도로 문제에 대해 충실하게 설명하면서도 난제가 가진 의미, 난제 해결이 가져올 우리의 미래, 난제를 풀기 위해 고군분투하는 수학자들의 에피소드까지 다루고 있다. 최고의 수학 대중화 필자라는 평가를 받는 저자는 우리 삶과는 관계가 없을 것 같은 수학난제들이 실제로는 우리 삶과 어떻게 연관되는지도 설명한다.

수학의 미해결 문제(數學의 未解決 問題)


수학의 미해결 문제(數學의 未解決 問題)는 현재 수학적으로 해결되거나 증명되지 않은 문제를 말한다.

힐베르트의 문제들

밀레니엄 문제

밀레니엄 문제 중 푸앵카레 추측만이 해결된 상태이다

다른 문제들


최근에 풀린 문제


Wikipedia

수포자도 빠져버린 흥미진진 수학 이야기

나는 '수포자'(수학 포기자)였다. 수학을 포기했기에 재수를 할 수밖에 없었다. 나만 수학이 싫은가 했는데, 주변에서 수학이 재미있다는 사람을 본 적이 없다. 유유상종인지 다들 "더하기 빼기 곱하기 나누기만 할 줄 알면 됐지 뭐"라거나 "수학은 괴로워" 하는 사람들뿐이었다. 수학은 왜 이토록 재미가 없었던 걸까. 원래 수학이 재미없는 학문이어서였을까?

기억 속 학창시절의 수학시간은 늘 공식을 외우고 공식에 맞춰 문제만 풀었던 기계적인 시간이었던 것 같다. 도무지 지금 배우는 수학이 어디에 쓰이는 건지 알지 못했다. 미분이 무엇에 필요하며, 적분이 어떻게 쓰이는지 누군가 설명을 조금만 더 조근조근히 잘 해줬더라면 나의 수학 실력이 조금은 나아지지 않았을까, 하는 원망도 든다.

그런데 한국인 수학자로는 처음으로 2011년 옥스퍼드대 수학과 정교수로 임용된 김민형 교수의 <수학이 필요한 순간>을 읽다 보니 수학이 결코 재미없지는 않은 것 같다. 아니 오히려 흥미롭기까지 하다. 김민형 교수는 '페르마의 마지막 정리'에서 유래된 산술대수 기하학의 고전적인 난제를 위상수학의 혁신적인 방식으로 해결하여 세계적 수학자의 반열에 올랐다.


사실 산술대수 기하학이 뭔지, 위상수학이 뭔지 이 책을 읽기 전까지는 생각할 일도 관심도 없었다. 그런데 김민형 교수의 이야기를 듣다보니 관심이 생긴다. 뭔가 재미가 느껴지기도 한다. 이런 사람이 수학선생님이었다면, 아니 수학선생님이 이렇게만 설명해줬더라면 수학을 포기할 일도 재수를 할 일도 없지 않았을까, 라는 생각에 뒤늦게 아쉽기만 하다.

<수학이 필요한 순간>은 수학을 하는 것보다는 수학에 대해 생각하고 이야기하는 것을 더 좋아한다는 김민형 교수가 한국과학기술원 고등과학원 수학난제연구센터에서 진행한 강의를 대화식으로 엮은 책이다. 아주 기본적인 수식의 원리에서부터 노벨 경제학상을 받은 이론 같은 최신 현대 수학까지 내용은 아주 다채롭다.

오늘날 물리학을 비롯한 과학은 물론이려니와, 경제학 논문의 대부분이 수학으로 되어 있고 심지어 언어나 신화의 연구에도 수학적 사고가 필요하다고 한다. 김 교수는 오늘날 인간이 가지고 있는 지능과 상상력에 어떤 차이가 있다면 그것은 수학적인 이해력의 차이 때문이라고 말한다.

<수학이 필요한 순간>은 수학이 뭔지, 수학적 이해력이 무엇인지를 찾기 위한 여행이라고 김 교수는 말한다. 김 교수와 함께 한 여행은 수포자마저도 사로잡은 아주 재미나고 흥미진진한 여행이었다.

수학의 확실성에 대한 환상을 버려라

 김민형 교수의 <수학이 필요한 순간> 표지
▲  김민형 교수의 <수학이 필요한 순간> 표지
ⓒ 인플루엔셜

보편적으로 수학은 논리적인 풀이 과정이라고 생각하지만 김 교수는 그것이 수학에 대한 편견일 수 있다고 이야기한다. 버트런드 러셀과 같은 철학자들이 '수학은 논리적이다'라는 관점을 굉장히 강하게 표명했는데, 김 교수는 수학이 논리학이라는 관점은 두 가지 측면에서 완전히 틀렸다고 주장한다.

수학은 굉장히 많은 구체적 사례를 정리하는 과정에서 논리가 필요한 것이지, 처음부터 논리에서 수학을 만들어가는 것은 아니라는 것이 첫 번째 이유다. 두 번째는 논리를 사용하는 학문이 수학만은 아니라는 것이다. 세상에 논리를 사용하지 않는 학문은 없으며 학문이 아니더라도 일상생활에서 사용하는 사고와 언어도 논리를 내포하고 있기 때문이다.

그렇다면 흔히들 수학적 논리는 '올바른 사고'와 다를 바 없다고 생각하는데 그건 맞는 것일까? 김 교수는 아니라고 말한다. 그러한 생각은 바로 수학의 확실성에 대한 집착 때문이라는 것이다. 수학적 증명은 한 번 해놓으면 영원불멸할 것이라고 여기지만 그런 생각이야말로 환상이라고 김 교수는 말한다.

수학적 전통과 언어가 다른 학문에 비해 상대적으로 명료한 논리를 전개할 수 있는 여건을 마련해놓은 건 사실이지만 그렇다고 해서 인간이 하는 작업이 완벽하고 영원불멸하기를 기대하는 것 자체가 무리이기 때문이다. 그렇다면 수학적 사고란 뭘까?

김 교수는 구체적인 예를 통해서 궁극적으로는 전체적인 틀이 형성되어 가는 것을 수학적 사고라고 설명한다. 즉 특정한 틀을 정해놓고 공부를 하는 것이 아니라, 똑같은 질문에도 답을 찾아나가는 과정이 여러 가지가 될 수 있는데 바로 그렇게 논리를 발전시켜 답을 찾는 과정이 수학적 사고라는 것이다.

물에 빠진 아들을 구하는데도 수학이 필요해

유난히 무더워 물놀이 사고도 많았던 올 여름. 그런데 물에 빠진 아들을 구하는데도 수학적 사고가 필요하단다. 만약 바다에 어린아이가 빠졌는데 모래사장에 서 있던 아버지가 아이를 구하려면 어떻게 해야 할까? 아이를 향해 곧장 물로 뛰어드는 최단거리를 택해야 할까? 아니면 모래사장에서 아이가 있는 쪽으로 좀 더 많이 이동한 다음 물로 뛰어들어야 할까?

이 문제를 풀기 위해선 빨대와 동전을 생각해볼 필요가 있다. 물을 절반 정도 담은 유리컵에 빨대를 꽂으면 빨대가 구부러져 보이고, 물속에 동전을 넣어놓으면 눈으로 보이는 동전의 위치와 실제 동전이 있는 위치가 다르게 보인다. 빛의 굴절 때문이다. 빛은 공기를 통과할 때보다 물을 통과할 때 상호작용이 많아져 이동 시간이 많이 걸리기 때문이다.

이것이 바로 수많은 이론들 중에서도 수학사에 획기적인 전환을 이룬 이론 중의 하나인 '빛은 시간을 최소화하는 경로로 진행한다'는 페르마의 원리이다. 즉 빛은 최단거리가 아니라 시간을 최소화하는 경로로 진행한다는 것이다. 따라서 페르마의 원리를 적용하여 물에 빠진 아이의 아버지도 최단거리가 아니라 시간을 최소화하는 경로를 찾아야 하는 것이다.

이처럼 김 교수는 어렵기만 했던 수학적 원리를 아주 쉽고 재미나게 설명하고 있다. 유치하게 보이는 도박문제를 두고 17세기 파스칼과 페르마가 나눈 서신이 세계를 바꿔버린 이야기와 자율주행자동차의 자율주행 시스템을 훈련시키기 위한 확률론에 대한 이야기 '트롤리 문제', 민주주의에서 투표방식에 대한 사회결정 문제 등은 특히나 흥미롭다.

투표방식에 따라 선거 결과가 어떻게 달라질 수 있는지를 경우의 수를 통해 수학적으로 설명한 대목에서는 민주주의가 정말 민의를 제대로 반영할 수 있을지 의문마저 들었다. 각종 경선이 치러질 때마다 정치인들이 투표방식을 두고 치열한 신경전을 벌이는 이유가 바로 그 때문이었던 것이다.

김 교수는 수학적인 사고가 사회에 어떻게 적용되느냐는 질문에 답할 때, 수라는 개념 안에서만 생각한다면 굉장히 제한적인 관점이 될 수밖에 없다고 말하며 건전한 과학적 시각이란 '근사(approximation)'해 가는 과정이라는 걸 받아들이라고 말한다.

완벽하게 할 수 없다고 해서 포기하는 것이 아니라 제한적인 조건 속에서 이해할 수 있는 현상이 있다는 걸 받아들이라는 것이다. 나중에 뒤집어지더라도 현재의 조건 안에서 이해해나가라는 말이다.

근사해가는 과정, 항상 바꿀 수 있는 것, 그리고 섬세하게 만들어가는 과정 자체를 학문이라고 생각해볼 수도 있을 것이라는 김 교수의 말은 비단 학문 뿐 아니라 세상 모든 일에 적용해 볼 수 있을 것 같다.

그림을 그릴 때 조각을 할 때 먼저 큰 형태를 만들고 조금씩 다듬어 결국 멋진 작품을 만드는 것처럼 인생도 다듬고 깎아 원하는 삶의 형태로 근사해 가는 과정 아닐까. 그러다 보면 종국엔 원하던 모습의 삶을 살고 있는 나를 볼 수 있을 것이라는 희망찬 생각을 한다. 결국 수학을 찾는 여행은 인생을 찾는 여행이었다.
덧붙이는 글 | <수학이 필요한 순간>, 김민형 지음, 편집부 옮김, 인플루엔셜 펴냄, 2018년 8월, 328쪽.


밀레니엄 문제


밀레니엄 문제는 세계적인 수학자도 해결하기 어려운 문제이니만큼 일반인은 문제를 이해하기도 어렵다. 하지만 수학에서 가장 어려운 문제란 어떤 수준인지 최대한 간단히 알아보도록 하자.


1. P 대 NP 문제

컴퓨터 과학자들은 컴퓨터를 이용해 효율적으로 해결할 수 있는 문제를 P형이라고 한다. NP형은 해결하기는 어렵지만 답이 맞는지 알아 내는 건 쉬운 문제다. 실제 공업이나 상업에서 생기는 대부분의 문제는 NP형에 해당한다. P 대 NP 문제는 P와 NP가 같은지 다른지에 관한 문제로, 이를 증명하면 공업이나 상업, 컴퓨터의 미래는 크게 바뀔 것이다.

2. 리만 가설

고대 그리스의 수학자 유클리드는 소수가 끝없이 계속된다는 사실을 증명했다. 그리고 1859년 독일의 수학자 리만은 소수가 어떤 규칙에 따라 배열돼 있는지 의문을 제기했다. 만약 소수의 규칙을 발견한다면 수에 관한 커다란 비밀이 풀릴 것이다.

3. 양-밀스 이론과 질량 간극 가설

1954년 물리학자 양전닝과 로버트 밀스는 자연의 힘을 설명하는 방정식을 만들었다. 이 방정식으로 예측한 사실은 오랫동안 실험실에서 입증됐다. 하지만 양-밀스 이론은 수학적으로 완성되지 않았다. 양-밀스 이론을 수학적으로 완성하는 것이 바로 밀레니엄 문제 중 하나다.

4. 내비어-스톡스 방정식

내비어-스톡스 방정식은 배의 주위를 흐르는 물이나 비행기의 날개 옆으로 흐르는 공기의 움직임과 같은 유체의 흐름을 설명하는 식이다. 하지만 내비어-스톡스 방정식의 해를 구하는 공식은 아직 있는지 없는지조차 모르고 있다. 컴퓨터로 비슷한 해를 구할 수는 있기 때문에 배나 비행기를 만드는 데 지장은 없지만 그래도 해의 공식이 발견된다면 배나 비행기는 더욱 발전할 수 있을 것이다.

5. 푸앵카레 추측

구의 표면에 닫힌 곡선을 그린 뒤 곡선을 축소해 나가면 점으로 만들 수 있다. 만약 어떤 입체도형의 표면에 닫힌 곡선을 그린 뒤 점으로 만들 수 있다면 그 입체도형은 구와 위상이 같다는 것이 푸앵카레의 추측이다. 푸앵카레의 추측은 밀레니엄 문제 중 지금까지 유일하게 해결된 문제다.

6. 버치와 스위너톤-다이어 추측

1994년 영국의 수학자 앤드류 와일스는 페르마의 마지막 정리를 증명했다.

그러나 더 복잡한 방정식에 대해서는 정수인 답이 있는지 밝혀 내기 매우 어렵다. 버치와 스위너톤-다이어 추측은 그 중 한 유형에 대한 정보를 알려준다.

7. 호지 추측

호지 추측은 위상학의 문제로, 어떻게 단순한 대상으로부터 복잡한 대상을 구성할 수 있는지와 관련돼 있다. 수학자들은 단순한 모양을 짜맞춰 복잡한 모양을 탐구하려고 노력해왔지만 그것을 일반화하는 것은 굉장히 어렵다.
수학동아

난제의 비밀을 찾아서 그 곳엔 항상 소수가 있다

밀레니엄 문제가 유명하긴 하지만 수학에는 그 외에도 수없이 많은 미해결 문제가 도사리고 있다. 이름만 들어도 어려운 데다가 일일이 나열하기도 지칠 정도로 많지만, 그 중 상당수의 난제는 한 가지 주제와 관련이 있다. 여러 가지 난제에 꼬리표처럼 붙어 다니는 그것의 정체는 바로…, 소수!

1과 자기 자신 이외에는 어떤 수로도 나눠지지 않는 소수는 수학의 영원한 미스터리다. 소수는 고대 그리스 수학자들도 이미 알고 있었지만, 지금도 계속해서 새로운 소수가 발견되고 있다. 지금까지 발견된 가장 큰 소수는 무려 1300만 자리수로 수천 장의 종이가 있어야 겨우 쓸 수 있다.

소수의 배열에 일정한 규칙이 있을지, 소수의 개수가 무한한지 등 소수와 얽힌 다양한 의문은 지금까지도 수학자들의 궁금증을 자아내고 있다.


쌍둥이 소수 추측_소수에도 출생의 비밀이?

소수 중에는 2만큼 차이 나는 쌍이 있다. 예를 들어, 3과 5, 5와 7, 11과 13, 17과 19 등이다. 이런 소수의 쌍을 쌍둥이 소수라고 부른다. 쌍둥이 소수도 수가 점점 커질수록 드물어진다.

쌍둥이 소수 추측은 쌍둥이 소수가 무한히 많이 있다는 가설이다.
지금까지 발견된 가장 큰 쌍둥이 소수는

메르센 소수_소수를 찾는 가장 쉬운 방법

골드바흐 추측_2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다?

18세기에 활동했던 수학자 크리스티안 골드바흐는 저명한 수학자인 오일러에게 보낸 한 편지에서 어떤 수를 소수의 합으로 표현하는 문제에 대해 의논했다. 여기서 유래한 것이 ‘골드바흐의 추측’이다. 골드바흐의 추측은 2보다 큰 짝수는 모두 두 소수의 합으로 나타낼 수 있다는 가설이다.

4=2+2
6=3+3
8=3+5
10=3+7 또는 5+5


작은 짝수는 간단히 덧셈을 해 보면 두 소수의 합으로 나타낼 수 있는지 아닌지 알 수 있지만, 대단히 큰 짝수라면 어떻게 될까? 수학자들은 이미 수백, 수천 억이 넘는 짝수까지 골드바흐의 추측이 맞다는 사실을 알아 냈지만, 짝수는 무한히 많다. 그리고 그 수많은 짝수에 대해 모두 골드바흐의 추측이 성립하는지는 아직 아무도 모른다.


피보나치 소수_재미있는 수열 속에 숨은 소수는?

우리에게 익숙한 피보나치 수열은 각 항이 이전의 두 항을 더한 값으로 이뤄진다.

1 1 2 3 5 8 13 21 34 55 89 144 233 377 610 987 1597 2584 4181 6765 …

위와 같은 피보나치 수열에서 소수를 찾아보자. 정답은 다음과 같다.

2, 3, 5, 13, 89, 233, 1597

이렇게 피보나치 수열에 속한 수 중 소수를 피보나치 소수라고 한다. 피보나치 수열은 끝없이 이어지는데, 그렇다면 피보나치 소수도 무한히 많을까? 피보나치 소수는 수열의 뒤쪽으로 갈수록 희귀해진다. 지금까지는 발견된 가장 큰 피보나치 소수는 81839번째 있는 수로 17103자리의 수다.
피보나치  수열로 유명한 피보나치는 12~13세기 이탈리아의 수학자로, 원래 이름은 레오나르도 피사노 보골라다.피보나치 수열로 유명한 피보나치는 12~13세기 이탈리아의 수학자로, 원래 이름은 레오나르도 피사노 보골라다.


다함께 찾는 메르센 소수

인터넷에서 무료로 다운받을 수 있는 프로그램을 이용해 여럿이 함께 메르센 소수를 찾는 계획이 있다. 메르센 소수를 찾기 위해서는 매우 강력한 컴퓨터가 필요하다. 하지만 그런 컴퓨터는 만들기 쉽지 않으므로 그 대신 평범한 컴퓨터를 수십만 대 연결해 그런 효과를 낸다. GIMPS라고 불리는 이 계획은 1996년 386대의 컴퓨터로 시작됐으며, 지금은 세계에서 가장 뛰어난 계산 능력을 자랑하고 있다. 최근 발견된 메르센 소수는 모두 이 계획을 통해 발견됐다.

수학동아