아벨과 갈로아 “5차 이상의 방정식은 일반해를 구할 수 없다”

역사상 중요한 업적을 남긴 과학자들 중에는 안타깝게도 젊은 나이에 세상을 떠난 인물들도 적지 않다. 특히 비슷한 시기에 20대의 나이로 요절한 천재 수학자 아벨(Niels Henrik Abel; 1802-1829)과 갈로아(Evariste Galois; 1811-1832)는 여러모로 닮은 점들이 많다.

이들 두 수학자는 ‘일반적인 5차 이상의 방정식은 대수학적 방법으로는 풀 수 없다.’는 점을 증명한 것을 비롯해서 많은 업적을 남겼으나, 불우하게도 생전에는 거의 인정을 받지 못하였다.

노르웨이 출신의 수학자 아벨. ⓒ Free Photo

“5차 이상의 방정식은 일반해를 구할 수 없다”

수학 교과서에서 ‘방정식’은 초등학교에서부터 대학에 이르기까지 두루 접할 수 있다. 1차방정식은 초등학생들도 어렵지 않게 풀이할 수 있을 것이고, 중학교 수학교과서에는 2차 방정식의 근의 공식이 나온다. 수학의 역사에서 2차방정식을 풀이하는 방법은 비교적 오래전부터 연구되었는데, 중세시대에 인도와 아라비아에서 해법이 완성되었다.

3차, 4차방정식의 해법은 그 이후 이탈리아의 수학자들을 중심으로 연구가 진척되어, 타르탈리아(Niccolo Tartaglia; 1499-1577)와 카르다노(Girolamo Cardano; 1501-1576)에 의해 3차방정식의 근의 공식이 확립되었다. 또한 카르다노의 제자인 페라리(L. Ferrari;  1522-1565)는 ‘페라리의 해법’이라 불리는 4차방정식의 풀이방법을 발견하였다.

그 후 수학자들은 5차 이상의 방정식도 풀어내려는 노력을 지속하였으나, 19세기에 이르기까지 아무도 해법을 발견할 수가 없었다. 결국 5차 이상의 방정식은 일반적으로 대수학적인 방법으로는 풀어낼 수 없다는 사실이 발견되었는데, 이를 증명한 사람은 아벨과 갈로아이다.

1802년 노르웨이 남쪽지방에서 목사의 아들로 태어난 아벨은, 중학교 때부터 수학에 흥미를 갖게 되었고 대학시절 뛰어난 재능을 보였다. 그러나 18세 때 부친이 돌아가시게 되어 가난 속에서 어머니와 어린 동생들을 돌보면서 장학생으로 힘들게 공부하였다.

아벨은 22세의 젊은 나이에 위의 5차 방정식에 관한 논문을 비롯해서 여러 업적을 내었으나, 코시(Augustin Louis Cauchy; 1789-1857), 가우스(Karl Friedrich Gauss; 1777-1855) 등 당대의 저명 수학자들은 여러 이유로 그의 연구 성과에 별로 관심을 기울이지 않았다. 불운 속에서도 연구를 계속하던 그는 가난과 과로로 인하여 폐결핵이 심해져서, 결국 1829년에 27세의 아까운 나이로 세상을 떠나고 말았다.

권총 결투 끝에 스물한살 짧은 생을 마감한 갈로아

프랑스 태생의 갈로아는 경제적인 고생은 비교적 겪지 않았으나 역시 중학교 때부터 수학에 뛰어난 재능을 보였다. 그러나 너무 수학에만 몰두하고 성격이 불같아서 다른 사람들의 비난을 자주 들었고, 선생님과 언쟁하는 일도 많았다고 한다.

갈로아 역시 어린 나이에 중요한 논문들을 제출하였으나 묵살 당하기 일쑤였고, 부친의 자살 등 개인적 불행이 겹치자 혁명운동에 열중하기도 하였다. 갈로아는 사랑하던 여인의 약혼자로 자칭하던 남자로부터 결투 신청을 받았는데, 이는 반대세력이 갈로아를 없애려고 꾸민 함정이었다는 설도 있다. 아무튼 그는 권총 결투를 승낙하였으나, 결국 상대방의 총을 맞고 1832년 5월 31일에 20년 7개월의 짧은 삶을 마감하였다.

갈로아. 15세 때 친구가 그려준 초상화로 알려짐. ⓒ Free Photo

두 천재 수학자의 슬픈 데자뷔

아벨과 갈로아는 젊은 나이에 세상을 떠난 천재 수학자라는 점 이외에도 공통점이 매우 많다. 먼저 논문 심사 등을 맡았던 당대의 저명한 수학자들로부터 외면을 받았다는 점인데, 특히 코시는 두 사람과 다 악연(?)이 있다.

아벨은 5차 방정식의 해법에 관한 연구결과를 출판하려 했으나, 논문이 너무 어려워서인지 교수들이 아무도 지원해 주려 하지 않았다. 할 수 없이 자비로 출판하였으나, 경비를 아끼기 위하여 내용의 많은 부분을 압축했기 때문에 결국은 더욱 어려운 논문이 되고 말아서, 제대로 알아주는 수학자가 없었다.

흔히 ‘수학의 왕’이라 불리는 당대의 저명한 수학자 가우스조차도 그냥 웃어넘기고 말았다고 한다. 아벨은 또한 1826년에 타원함수에 관한 중요한 논문을 써서 파리과학아카데미에 제출하였으나, 심사위원인 코시가 논문을 읽지도 않고 팽개쳐 두는 바람에 생전에 제대로 인정을 받을 수 없었다.

갈로아 역시 방정식론에 관한 논문을 파리과학아카데미로 보냈으나, 심사를 맡았던 코시가 논문 원고를 분실하고 말았다. 그는 이후에 다시 논문을 제출하였으나 이번에는 심사위원이였던 푸리에(Jean Baptiste Joseph Fourier; 1768-1830)가 논문을 읽으려고 집으로 가져갔다가 갑자기 죽는 바람에 거듭 논문 원고가 행방불명되고 말았다.

두 수학자 모두 사망한 후에야 인정을 받게 되어 더욱 주위를 안타깝게 만들었다. 아벨이폐결핵으로 세상을 떠난 지 이틀 후, 그의 집에는 베를린 대학의 정식 교수로 채용한다는 초청장이 배달되었다. 또한 비슷한 시기에 타원함수에 관하여 연구했던 독일의 야코비(Karl Gustav Jacobi; 1804-1851)는, 자신보다 앞서서 아벨이라는 수학자가 파리과학아카데미에 비슷한 논문을 제출했다가 묵살되었다는 사실을 알고 의분을 느껴서 파리로 찾아가 항의하였다.

파리과학아카데미에서 놀라서 찾아보니, 아벨의 논문은 벽장구석에서 2년간 방치 되어온 채로 발견되었다고 한다. 과학아카데미에서는 이 논문을 예회에서 낭독하기로 하고, 야코비의 논문과 함께 그랑프리를 주기로 결정했으나, 아벨은 이미 이 세상 사람이 아니었다.

갈로아는 결투를 앞둔 전날 밤, 자신이 죽을 것을 미리 예견하고 친구인 슈발리에(Auguste Chevalier)에게 연구결과를 유서로 썼다. “친애하는 벗이여! 나는 해석학에서 몇  가지 중요한 발견을 했다네.”로 시작하는 이 편지에서 그는 자신의 수학 상의 견해를 전개하였고, 군(群)의 개념을 써서 방정식을 대수적으로 풀기 위한 조건 등을 제시하였다. 그리고 “이 편지를 ‘르뷔 앙시클로페디크’에 발표해 주게나… 공개장을 내어 야코비, 가우스에게 내 정리(定理)의 정당성이 아니고, 그 중요성에 대한 의견을 물어 주게.”라고 끝맺었다. 그가 유서로 쓴 편지의 내용은 14년 후 프랑스의 수학자 리우빌(Joseph Liouville; 1809-1882)에 의해 발표되어 큰 빛을 발하였다.

아벨상의 로고. ⓒ 아벨재단

또한 두 수학자 모두 후대에 커다란 영향을 미쳤다. 아벨과 갈로아가 대수방정식의 풀이 과정에서 도입한 군론(群論, Group theory)은 오늘날 수학 뿐 아니라 물리학, 공학 등에서도 널리 응용, 연구되는 중요한 것으로서, 통신이론, 암호학 등 각종 첨단과학기술도 이와 관련이 깊다.

갈로아의 연구를 계승하여 후대에 갈로아 학파로 불리는 연구자들이 생겨났고, 갈로아의 정수론 역시 현대 대수학을 비롯하여 신호처리, 암호이론 등에 응용되고 있다.   아벨 탄생 200주년인 2002년에는 그의 이름을 딴 ‘아벨상’이 제정되어, 노벨상이 없는 수학 분야에서 기존의 ‘필즈 메달’과 아울러 중요한 상으로 자리를 잡아 왔다.

ScienceTimes