페르마의 마지막 정리 Fermat's Last Theorem 와 앤드류 와일즈

Cubum autem in duos cubos, aut quadratoquadratum in duos quadratoquadratos, et generaliter nullam in infinitum ultra quadratum potestatem in duos eiusdem nominis fas est dividere cuius rei demonstrationem mirabilem sane detexi. Hanc marginis exiguitas non caperet.                                      - Pierre de Fermat 

세 제곱수를 두 개의 세제곱수의 합으로 나타나는 것이나, 네제곱수를 두 개의 네제곱수의 합으로 나타내는 것이 불가능 하다. 일반적으로 n 제곱 수의 대하여 두 n 제곱수의 합으로 나타내는 것은 불가능 하다. 나는 이에대해 놀라운 증명을 알고 있지만 여백이 좁아 쓸 수 없다.

 

1. 놀라운 소식

1993년 6월 23일 영국 캠브리지대학교의 한 학술회의에 모인 수학자들은 수학사에 길이 남을 사건을 목격하고 있었다. 360여 년 동안 수많은 수학자들의 도전을 물리치고 수학역사상 가장 유명한 미해결문제로 남아 있던 ‘페르마의 마지막 정리’(Fermat's Last Theorem - 이후로는 FLT로 표기)가 미국 프린스톤 대학교 수학과의 앤드류 와일즈(Andrew Wiles)교수에 의하여 증명되는 순간이었다. 이 소식은 곧 ‘데일리 뉴스’, ‘뉴욕 타임즈’, ‘르 몽드’ 등을 통하여 전 세계로 퍼져 나갔고, 시사주간지 ‘타임’, ‘뉴스위크’ 등도 이 소식을 특집으로 다루었다. 그 후로 와일즈의 증명에 오류가 발견되고 다시 증명이 보완되는 과정을 거쳐 마침내 1995년 5월에 세계최고의 권위를 자랑하는 수학전문학술지인 ‘수학연보’(Annals of Mathematics)에 장장 130쪽에 달하는 FLT의 완전한 증명이 활자화되기까지 약 2년 동안 전 세계 수학계는 놀라움과 감동으로 술렁이며 FLT의 정복여부에 촉각을 곤두세웠고 이에 관한 소식들이 전자우편을 통하여 세계 각 국의 수학자들 사이에 홍수처럼 흘러 넘쳤다.

대부분의 권위 있는 수학전문학술지는 투고된 논문에 대하여 해당 분야의 전문가들에 의한 검증의 단계를 거쳐 논문에 오류가 없음을 확인한 연후에 게재승인을 하고 활자화한다. 특히 ‘수학연보’와 같은 학술지는 세계 최고의 전문가들이 철저한 검증을 하기 때문에 와일즈의 증명을 의심하는 수학자는 거의 없다. 더구나 와일즈의 증명이 활자화된 후 2-3년 동안 전 세계 수학계의 주시 하에 많은 전문가들이 검증을 하였지만 아무도 오류를 찾을 수 없었으며 이제는 완벽한 증명으로 인정받고 있다.

FLT를 증명하였다고 주장한 것은 와일즈가 처음은 아니다. 1847년에 라메(Lamé)와 코시(Cauchy)가 증명하였다고 주장하였으나 틀린 것이 발견되어 주장을 철회하였으며, 1988년에는 미야오카(Miyaoka)가 그들의 전철을 밟았다. 실은 그들도 모두 당대의 저명한 수학자들이었으나 그들이 FLT의 증명을 주장하였을 때 대부분의 다른 전문가들은 별로 믿는 분위기가 아니었다.

그러나 1993년에 와일즈의 FLT증명에 관한 소식이 처음 알려졌을 때에는 아직 그의 증명이 검증되지 않았음에도 불구하고 - 실제로 큰 오류가 있었음은 앞서 언급하였다 - 전 세계가 놀라움과 감동으로 그를 주시하게 되었던 이유는 그가 FLT의 해결에 가장 가까이 접근하고 있던 몇 안 되는 전문가 중 하나였고 그의 FLT에의 접근 방법에 많은 전문가들이 고개를 끄덕이고 있었기 때문이다.

 

2. 피에르 데 페르마 (Pierre de Fermat)

 

그러면 도대체 페르마는 누구이며 그의 마지막 정리란 어떤 것인가? 페르마(1601-1655)는 프랑스 툴루즈 지방의 의원이자 판사였다. 그는 여가 시간에 수학을 공부한 아마추어 수학자였지만, 데카르트(Descartes)와 함께 해석기하와 미적분 분야의 개척자로, 파스칼(Pascal)과 함께 확률론의 창시자로, 그리고 특히 정수론 분야에서는 ‘현대 정수론의 아버지’로 불릴 만큼 위대한 업적을 남긴 17세기 최고의 수학자 중 한사람으로 여겨지고 있다. 그는 그리스의 디오판투스(Diophantus)가 A.D. 250년경에 쓴 ‘산술’(Arithmetika)의 라틴어 번역판을 가지고 다니며 시간이 날 때마다 그 책에 소개된 수많은 미해결문제들에 도전하였으며, 그 중 많은 문제들을 해결하였고 또한 새로운 의문들을 제시하였다. 그는 이 모든 것을 그 책의 여백에 기록하거나, 다른 수학자들에게 보낸 편지에 기록하였다. 그가 죽은 후, 1670년에 그의 아들은 아버지가 들고 다니던 ‘산술’의 여백에 쓰여진 내용들을 원문에 추가하여 ‘디오판투스’라는 제목의 첫 번째 유고집을 출판하였고, 1679년에는 다른 수학자들에게 보낸 편지에 기록된 내용들을 모아서 두 번째 유고집(Varia Opera Mathematica)을 출판하였다.

19세기 초반에 이르러, 오일러(Euler), 라그랑쥐(Lagrange), 가우스(Gauss) 등에 의하여 페르마가 제기한 수많은 새로운 의문들은 하나만 남기고 모두 해결되었다. 마지막으로 남은 것이 바로 ‘페르마의 마지막 정리’이다. 마지막이란 수식어가 붙은 이유는 이 때문이다. 이제 이 정리의 내용을 알아보자. 페르마는 자신이 지니고 있던 ‘산술’의 한 여백에 다음과 같이 기록하고 있다.

 

‘페르마의 마지막 정리’ : “n ≥ 3인 임의의 자연수 n에 대하여,

방정식 xn + yn = zn 은 0 아닌 정수해 x, y, z를 가질 수 없다.”

 

물론 우리는 n = 2인 경우에는 무한히 많은 정수해가 존재함을 잘 알고 있다. 그의 기록은 다음과 같이 계속되고 있다.

 

“... 나는 이러한 사실에 대한 아름다운 증명을 발견하였다. 그러나

이 책의 여백이 너무 좁아서 나의 증명을 다 담을 수가 없다. ....”

 

이것이 1630년에 쓴 것으로 알려진 유명한 ‘페르마의 여백기록(marginal notes)’이다. 그가 남긴 다른 위대한 업적들을 감안할 때, 그의 주장을 거짓이라고 일축할 수 없었던 후세 수학자들은 그가 주장하고 있는 명제를 ‘페르마의 마지막 예상(Conjecture)’이라고 부르는 대신 그가 증명하였음을 인정한다는 의미로 ‘페르마의 마지막 정리(Theorem)’로 부르고 있다. 실제로 그는 n = 3, 4인 경우의 증명을 다른 곳에 기록하고 있으며, 그가 이들 경우의 증명에서 사용한 방법이 일반적인 n = 5, 6, 7, ...의 경우에도 항상 적용될 것으로 착각했던 것으로 추측하는 사람들도 있다. 그러나 그의 방법은 일반적인 경우에 적용되지 않는다.

 

3. FLT 도전사

 

먼저, 쉽게 관찰할 수 있는 다음의 두 가지 사실을 주목하자.

 

(1) 방정식에 나타난 지수 n이 3 이상의 소수 p인 경우에만 증명하면 된다. (소수 p와 0 아닌 정수해 x, y, z에 대하여, xyz가 p의 배수가 아닌 경우를 첫 번째 경우, xyz가 p의 배수인 경우를 두 번 째 경우라고 한다. 두 번째 경우가 훨씬 어려운 것으로 알려져 있다.)

(2) x, y, z가 서로 소인 0 아닌 정수해가 존재할 수 없음을 보이면 된다. (이제부터 정수해는 항상 0 아닌 정수해를 뜻하는 것으로 간주한다.)

 

이제 FLT에의 도전사에 대하여 연도별로 간략하게 알아보자.

 

1816 : 프랑스 학술원이 FLT의 증명에 상금을 걸다.

1820 : 게르마인(Germain)이 (2p + 1)도 소수가 되는 소수 p에 대하여

FLT의 첫 번째 경우를 증명하다.

1825 : 디리클레(Dirichlet)와 르장드르(Legendre)가 n = 5인 경우를 증명하다.

1832 : 디리클레가 n = 14인 경우를 증명하다.

1839 : 라메가 n = 7인 경우를 증명하다.

1847 : 라메와 코시가 틀린 증명을 발표하다.

1847 : 쿰머(Kummer)가 소수를 정규 소수와 비정규 소수로 분류한 후,

n이 정규 소수인 경우를 증명하다. (예를 들어서, 100 이하의

소수 중에서 37, 59, 67 만 빼고는 모두 정규 소수이다.)

1850 : 프랑스 학술원이 FLT의 증명에 두 번째 상금을 걸었다가 취소하고

쿰머에게 상금을 수여하다.

1908 : FLT의 증명에 수여할 ‘볼프스케엘(Wolfskehl) 상’을 제정하다.

1909 : 비이페리히(Wieferich)가 (2p-1 - 1)/p가 p의 배수가 아닌 p에 대하여

FLT의 첫 번째 경우를 증명하다.

1920 : 반다이버(Vandiver)가 쿰머의 비정규 소수에 대한 연구를 발전시켰다.

특히, 37, 59, 67의 비정규 소수의 경우를 증명하다. 따라서,

100 이하의 모든 소수에 대하여 FLT가 증명되다.

1953 : 인케리(Inkeri)가 xp + yp = zp, x < y < z 이면 x > p3p-4 임을 증명하다.

1971 : 브릴라트(Brillhart), 토나시아(Tonascia), 바인버거(Weinburger)가

모든 p < 3․109에 대하여 FLT의 첫 번째 경우를 증명하다.

1976 : 바그스타프(Wagstaff)가 125000 이하의 모든 소수에 대하여 증명하다.

(최근에는 컴퓨터를 이용하여 4000000 이하의 모든 소수에 대하여

증명하였으며, 이것을 이용하면, FLT가 틀릴 확률은 1/1024000000 보다

작음을 보일 수 있다.)

1983 : 폴팅스(Faltings)가 ‘모델(Mordell)의 예상’을 증명함으로서,

n이 4이상인 경우 FLT에 x, y, z가 서로 소인 정수해가 존재한다면

그러한 해는 유한 개뿐임을 증명하다.

(그는 이 업적으로 1986년 ‘Fields 메달’을 수상하였다.)

 

위에 나열한 것들 외에도 수많은 수학자들이 FLT에 도전하여 문제 해결에 크고 작은 기여를 하였으며 또한 수많은 수학자들이 FLT에 도전하여 아무런 성과도 거두지 못하였다. 한편 위에 나열한 업적들 가운데 쿰머와 폴팅스의 업적에 관하여는 약간의 언급이 추가될 필요가 있다.

 

4. 쿰머(Kummer)와 폴팅스(Faltings)

 

쿰머(1810-1893)는 독일의 수학자로 평생을 두고 FLT에 도전, 처음으로 모든 p에 대한 FLT의 증명에 접근한 수학자이다. 물론 와일즈의 증명은 그의 방법과는 전혀 다르며, 쿰머의 접근 방법으로 FLT를 완전히 해결하기에는 한계가 있을 것으로 보인다. 그럼에도 불구하고 쿰머가 FLT를 해결하기 위하여 평생을 두고 개발한 방법은 ‘대수적 정수론’이라는 정수의 개념을 확장한 새롭고 중요한 분야의 토대가 되어 수학의 발전에 크게 기여하게 된다.

한편, 1983년 약관 30세의 독일 수학자 폴팅스는 소위 “종의 수(genus)가 2 이상인 유리수 계수를 가지는 사영곡선은 유한 개의 유리수 해를 가진다”는 유명한 ‘모델의 예상’을 증명하였다. 이것이 무슨 뜻이건 간에 이 결과를 FLT에 적용하면 n > 3인 모든 자연수 n에 대하여 곡선 xn + yn = zn의 종 수는 언제나 3 이상인 것이 알려져 있으므로

 

xn + yn = zn 와 gcd(x, y, z) = 1

 

를 동시에 만족시키는 정수해가 만약 존재한다면 그러한 정수해는 유한 개뿐이라는 결론을 얻게 된다. 이것은 놀라운 발견이며 이제 이러한 정수해 x, y, z 중에서 가장 큰 것의 상계를 구해 내거나 혹은 하나의 정수해로부터 새로운 정수해를 계속해서 만들어 낼 수 있는 방법을 찾아낸다면 FLT는 해결되는 것이다. 물론 와일즈의 증명은 이러한 방법과는 전혀 다르며, 아직은 아무도 이러한 방법으로 성공하지 못하였다.

한편 이러한 FLT에의 응용도 폴팅스의 결과의 무수히 많은 응용들 중의 하나에 불과하다는 점에서, 폴팅스의 결과는 와일즈의 결과 보다 더 높이 평가되기도 할 정도로 중요한 업적이다.

결국 폴팅스는 1986년 수학의 ‘노벨 상’이라고 할 수 있는 ‘필즈(Fields) 메달’을 수상하였다. ‘필즈 메달’은 노벨이 어떤 이유에서인지 수학 분야의 ‘노벨 상’을 제정하지 않음으로써 1936년도부터 4년마다 한 번씩 개최되는 ‘세계 수학자 대회(ICM - International Mathematical Congress)’에서 지난 4년 간 가장 우수한 논문을 발표한 40세 미만의 수학자(통상 2명 이상, 4명 이하)에게 수여하는 세계 최고 권위의 수학 상이다. 그러나 1998년에 개최된 ICM에서 와일즈는 ‘필즈 메달’을 수상하지 못하였다. 업적으로 보면 와일즈가 당연히 받아야 하지만, 와일즈의 나이가 당시 40세를 갓 넘었기 때문이다. 예외를 좋아하지 않는 수학자들의 특성이 느껴진다.

 

5. 와일즈의 증명

 

그러면 와일즈의 증명이 탄생하기까지의 과정을 간략히 소개하자. 와일즈는 타원곡선을 연구하던 수학자로서, ‘시무라(Shimura)-타니야마(Taniyama) 예상’(이후로는 ‘S-T 예상’으로 표기)의 일부를 증명함으로써, 360여 년에 걸친 FLT의 역사에 종지부를 찍었다. 타원곡선은 y2 = (x - a)(x - b)(x - c) 꼴의 곡선으로서 타원곡선 이론은 수학의 여러 분야에 걸쳐 다양하게 응용되고 있으며 최근에는 암호이론에의 응용까지 발견되어 각광을 받고 있다.

‘S-T 예상’은 1955년에 처음 제기된 예상으로 모든 타원곡선에 소위 보형 형식(modular form)을 대응시킬 수 있다는 내용이다. 보형 형식에 대하여는 짧은 시간에 간단히 설명할 수 있는 성질의 것이 아니므로 이에 대한 자세한 설명은 생략하기로 한다. 다만 복소수 평면의 점 (s + ti)들 중에서 t > 0인 부분에서 정의된 미분 가능한 함수로서 푸리에급수로 표현되었을 때 그 푸리에계수가 정수론에서 필요로 하는 많은 정보를 가지고 있는 매우 유용한 함수라는 정도로만 알아두자. 사족이지만 이 ‘S-T 예상’을 처음 발표한 시무라와 타니야마는 일본 수학자들이다. 시무라는 현재 프린스톤 대학교 수학과의 교수로서 보형 형식에 관한 세계적인 대가로 명성을 날리고 있으나 타니야마는 1958년 자살하였다.

FLT와는 전혀 관련이 없어 보이는 이 예상이 FLT와 밀접한 관련이 있을 것으로 생각한 것은 프라이(Frey)였다. 그는 1980년대 초에, 3 보다 큰 소수 p에 대하여, 방정식 xp + yp = zp 이 서로 소인 정수해 u, v, w를 가진다면 u ≡ 3 (mod 4), v는 짝수라고 가정할 수 있으며, 이러한 정수해에 대하여, 프라이 곡선이라고 불리는 타원곡선 y2 = x(x - up)(x + vp)를 대응시켰고, 1985년에 또 다른 ‘필즈 메달’ 수상자인 프랑스 수학자 세르(Serré)와 함께 ‘S-T 예상’과 소위 ‘세르의 ε-예상’을 둘 다 증명하면 FLT가 해결된다는 사실을 밝혀 내었다. 그리고 다음해에 리벳(Ribet)이 ‘세르의 ε-예상’을 증명함으로써 프라이곡선에는 보형 형식을 대응시킬 수 없음을 알게 되었다.　　

이제, ‘S-T 예상’을 증명하게 되면, 프라이 곡선도 타원곡선이므로 보형 형식이 대응되어야 하는데, 이는 앞에서의 주장과 서로 모순이 되므로, 프라이 곡선은 존재할 수 없게 된다. 그러므로, xp + yp = zp이 서로 소인 정수해 u, v, w를 가질 수 없고, 따라서 FLT가 증명된다. (페르마가 발견했을지도 모르는 증명이 이 방법과 같은 것일 가능성은 매우 희박하다.) 와일즈는 바로 이 ‘S-T 예상’의 일부, 즉 FLT와 관련된 부분을 해결함으로써 FLT를 정복한 것이다.

타원곡선의 판별식(타원곡선의 y에 0을 대입하여 생기는 x의 서로 다른 세 근 a, b, c의 차이들의 제곱의 곱)을 나누는 각각의 3 보다 큰 소수 q에 대하여, 타원곡선의 서로 다른 세 근 a, b, c 중 정확히 두 개가 (mod q)로 같아질 때, 이러한 타원곡선을 준-안정적(semi-stable)이라고 한다. 프라이 곡선의 경우 판별식은 (uvw)2p이고 u, v, w가 서로 소이므로 프라이 곡선이 준-안정적임은 당연하다. q = 2, 3일 때는 정의와 증명이 약간 더 복잡하지만 생략하기로 한다. 와일즈는 1986년 리벳의 결과가 나온 이후부터 7년 동안 준-안정적인 타원곡선에는 항상 보형 형식을 대응시킬 수 있음을 보이는 연구에 몰두한 끝에 증명에 성공한 것이다. 이것은 ‘S-T 예상’의 부분적인 증명에 지나지 않으나, 문제가 되는 프라이곡선이 준-안정적인 타원곡선이므로 FLT를 해결하기에는 충분한 결과인 것이다. 와일즈는 그 후에 ‘S-T 예상’의 나머지 부분도 해결함으로써 ‘S-T 예상’도 완전히 정복하였다.

와일즈의 증명은 이러한 배경아래 메이저(Mazur), 콜리바긴(Kolyvagin), 루빈(Rubin), 투넬(Tunnel), 랭글랜즈(Langlands), 플락(Flack), 히다(Hida), 테일러(Taylor), 캇츠(Katz), 코오츠(Coates), 그리고 이와사와(Iwasawa) 등에 의하여 밝혀진 타원곡선에 관한 최신의 이론들을 총 동원하여 이루어진 금세기 최고의 업적이라고 일컬을 만한 걸작이다. 자세한 설명을 하자면 지면이 모자랄 뿐만 아니라 필자의 능력도 턱없이 모자라는 관계로 생략하기로 한다.

 

6. 앤드류 와일즈 (Andrew Wiles)

 

앞서 알아본 바와 같이 ‘페르마의 마지막 정리’에 대한 와일즈의 증명은 많은 수학자들의 합작품이라고 할 수 있다. 전 세계의 수학자들은 와일즈를 비롯한 이들의 쾌거에 감동에 찬 찬사를 보냈다. 그러나 역시 모든 관심의 초점은 와일즈에게 맞추어 졌다. 360여 년 동안 버티고 서서 모든 수학자들의 도전을 뿌리쳐 오던 도저히 정복될 것 같지 않던 ‘페르마의 마지막 정리’라는 거대한 산을 정복한 것은 와일즈라고 역사에 기록될 것이기 때문이다. 그가 ‘필즈 메달’을 수상하지 못했다 하더라도 그는 이미 당대 최고의 수학자가 된 것이다.

앤드류 와일즈는 40대 후반의 매우 수줍음을 많이 타는 영국 출신의 수학자이다. 캠브리지대학교에서 코오츠 교수의 지도 하에 박사학위를 취득하였으며 1980년대 중반부터 프린스톤 대학교 수학과의 교수로 재직 중이다. 그가 부분적으로 해결함으로써 FLT를 증명할 수 있었던 ‘S-T 예상’을 처음 예상했던 시무라도 프린스톤의 교수이다. 10살 때 마을의 도서관에서 우연히 만나게 된 FLT에 매료된 그는 FLT를 풀기 위하여 본인의 표현에 의하면 ‘진이 빠질’ 정도로 애를 썼다고 한다. 코오츠는 그런 와일즈에게 꿈에서 깨어나 ‘주류(mainstream) 수학’을 하도록 충고하였고 와일즈는 그때부터 코오츠(John Coates)의 지도 하에 타원곡선을 연구하기 시작하였다. 박사학위를 취득하고 프린스톤의 교수가 된 와일즈는 타원곡선 분야의 전문가가 되었다. 물론 ‘S-T 예상’에도 관심을 가지고 있었다. ‘S-T 예상’은 타원곡선 이론에서 가장 중요한 미해결 문제였으므로 ...

1986년 어느 날 와일즈는 친구의 집에서 차를 마시던 중에 그 친구로부터 리벳이 ‘세르의 ε-예상’을 해결하였다는 소식에 접한다. 와일즈는 본인의 표현으로 ‘전기에 감전된 듯한 느낌’으로 그날부터 FLT를 염두에 두고 ‘S-T 예상’에 도전하였다고 한다. 이미 사라진 줄 알았던 10살 때부터의 꿈이 가슴 깊은 곳에 그대로 간직되어 있었다는 것도 와일즈로서는 새로운 발견이었다.

바로 그날부터 7년 동안 그는 집에서 아무에게도 알리지 않고 혼자서 연구에 몰두하였다. FLT에 도전하고 있다는 사실은 그와 그의 아내만의 비밀이었다. 1993년 1월 그는 증명이 거의 완성되었다는 자신을 가질 수 있었다.

그는 프린스톤의 동료인 캇츠(Katz)에게 이 사실을 알리고 그에게 내용을 설명하기 위하여 강의를 개설하였다. 제목은 ‘타원곡선 상의 계산’이라는 애매한 것이었다. 아무것도 모르고 수강신청을 했던 학생들은 2-3주가 지나자 모두 수강을 취소하고 강의실에는 와일즈와 캇츠뿐이었다. 한 학기의 강의가 끝나갈 즈음, 캇츠도 증명의 기본 줄거리에 오류가 없는 듯하다고 동의하였다. 와일즈는 또 다른 프린스톤의 동료인 사르낙(Sarnak)에게 이 사실을 알리고 검증을 의뢰하였다. 그리고 캠브리지로 날아갔다. 모교에서 열리는 학술회의에서 이 역사적인 발표를 하기 위해서였다. 역사적인 발표가 끝나자 전 세계 수학계가 경악하였다. 어느 정도 예상은 하였지만 그 반응은 예상을 훨씬 뛰어 넘는 가히 폭발적인 것이었다.

사실 코오츠의 말처럼 ‘S-T 예상’의 일부분에 대한 증명으로부터 FLT가 증명될 수 있다는 소식을 접했을 때 타원곡선을 연구하는 대부분의 전문가들은 “FLT도 해결하지 못하고 있는 마당에 FLT를 함축적으로 포함하고 있는 것으로 판명된 ‘S-T 예상’의 증명은 거의 불가능할 것 같다”라는 반응을 보였다. 심지어는 ‘S-T 예상’을 연구하던 전문가들조차도 연구를 포기하는 분위기였다. 단 한 사람의 예외가 바로 와일즈였던 것이다.

전 세계 수학계의 이목이 집중된 가운데 캇츠로 부터 증명에 약간 미진한 부분이 있는 듯하다는 연락을 받았다. 쉽게 처리될 줄 알았던 그 부분은 결국 심각한 오류로 판정이 났고 와일즈는 전 세계의 수학자들에게 이러한 사실을 발표한 후 오류의 정정을 위하여 다시 두문불출을 시작하였다. 수줍은 성격의 와일즈로서는 이 때가 가장 고통스러운 시간이었다고 고백하고 있다.

 

“처음엔 아무 것도 보이지 않는 깜깜한 방에 들어간 느낌이었다.

벽에, 가구에 부딪치고 넘어지고 하면서 눈이 어둠에 익숙해지기

시작했고, 가구의 위치들이 어렴풋이 파악되면서 어디쯤 스위치가 있을 것이라는 추측이 가능해 지고, 결국 여기 저기를 더듬던 끝에 스위치라고 생각되는 것을 건드렸을 때, 전등이 켜지면서 모든 것이 확연히 드러났다.”

8년이 넘는 기간 동안의 경험이었다. 수학자뿐만 아니라 모든 연구자가 역사에 기록될 만한 가치 있는 연구 결과를 낳기 위해서는 반드시 거쳐야 하는 고통스러운 과정을 잘 묘사하고 있다.

 

“그것은 수학자로서의 나의 일생에 가장 중요한 순간이었고, 내가

앞으로 무엇을 하더라도 그만큼 중요한 순간은 다시는 없을 것이다.”

 

아마도 바로 그러한 순간이 모든 연구자가 꿈꾸고 바랄 수 있는 최고의 축복이 아닐까? 와일즈는 한 TV 방송과의 인터뷰에서 이 대목을 이야기하면서 당시의 감동이 되살아나는 듯 말을 잇지 못하였다.

‘수학연보’는 그 후 1년 동안 철저한 검증과정을 거쳐 1995년 5월 그의 논문을 실은 통권 141권의 3호를 발간하였다. 그 목차를 보면 다음과 같다.

 

Andrew Wiles, Modular elliptic curves and Fermat's Last

Theorem ------------------------------ 443-451

Richard Taylor and Andrew Wiles, Ring-theoretic properties

of certain Hecke algebras --------------- 453-472

 

단 2편뿐이다. 앞의 논문은 와일즈의 FLT증명이고, 나중 것은 처음의 논문에서 발견되었던 잘못된 부분을 보다 일반적인 경우까지 확장하여 해결한 논문이다. 세계최고의 권위를 자랑하는 ‘수학연보’가 매우 이례적으로 한 호 전체를 FLT의 증명만으로 장식함으로써 FLT의 정복을 기념한 것이다.

한편, 1955년에 타니야마와 함께 ‘S-T 예상’을 발표했던 시무라는 와일즈가 자신의 예상이 옳았음을 증명했다는 소식을 듣고는 “내가 그렇다고 했잖아! (I said so!)”라고 농담을 한다. 얼마나 멋진 농담인가? 물론 시무라나 타니야마도 처음에 ‘S-T 예상’을 발표할 때는 그것이 FLT 까지 연결되리라고는 꿈에도 생각하지 못하였을 것이다. 농담을 하면서도 그는 타니야마를 떠올리며 우울했으리라.

 

7. 우리도 ...

 

와일즈는 10살 때부터 간직해 온 꿈을 성취하였다. 너무나 멋지게 해냈다. 와일즈 외에는 아무도 가능하다고 생각하지 않았다. 요즈음 같이 너나 없이 더 많은 논문을 경쟁적으로 발표하는 분위기 아래서 듣는 와일즈의 쾌거는 그래서 더욱 더 신선한 충격이라 하겠다. 일반 사회에서도 마찬가지이겠지만 학계에서도 뭔가 의미 있는 연구결과를 생산해 내기 위해서는 짧지 않은 고통의 과정이 뒤따르게 마련이다.

쉽고 빠르게 생산해 낼 수 있는 연구결과를 선호하는 시각으로는 FLT와 같은 성공 가능성이 희박한 문제에의 도전은 무모한 만용으로 보일 수도 있을 것이다. 그러나 8년 동안 거의 아무 것도 하지 않고 한 문제에만 매달려 고독하고 고통스러운 싸움을 계속하는 대학교수가 있다는 것과 그러한 교수를 지원하는 대학이 있다는 것이 어쩌면 우리와 선진국의 차이가 아닐까?

인간의 지적 능력이 이룩한 또 하나의 금자탑을 바라보면서 앞으로 남은 ‘리만(Riemann) 가설’, ‘포앵카레(Poincaré) 예상’, ‘골드바하(Goldbach) 예상’ 등의 또 다른 거대한 산들이 정복될 즈음엔 우리나라의 젊은이들이 끈기와 용기와 재능을 갖춘 훌륭한 수학자로 자라나서 당당한 역할을 감당하고 또 그들이 그러한 커다란 산에 오를 수 있도록 격려하고 지원하는 연구 분위기가 우리나라에도 자리잡게 되기를 기대해 본다.

끝으로 ‘리만 가설’이나 ‘포앵카레 예상’과는 달리 쉽게 설명할 수 있는 ‘골드바하 예상’을 소개하면서 이야기를 끝맺고자 한다.

‘골드바하 예상 (1)’ : “모든 4 이상의 짝수는 두 개의 소수의 합이다.”

 

이렇게 알기 쉬운 명제가 약 200년 동안 미해결의 상태로 남아 있음이 신기할 정도이다.

 

  

김 명 환 (서울대학교 수리과학부 교수)