동양과 서양의 방정식 ② 대수학으로 완성된 서양의 방정식

17세기 비슷한 시기를 산 동·서양의 두 수학자 데카르트와 홍정하. 두 사람은 모두 방정식에 일가견이 있는 수학자들이다. 데카르트는 오늘날 전세계 사람들이 쓰고 있는 문자 를 처음 도입했고, 조선 최고의 수학자로 손꼽히는 홍정하는 자신의 저서 <구일집>에 방정식의 산대 표기를 처음으로 쓴 수학자다. 그러나 오늘날, 우리가 접하고 있는 방정식은 모두 서양의 수학을 따르고 있다. 방정식은 정말 서양에만 있었던 걸까?

글_장경아 기자일러스트_이창우

해를 찾고자 했던 방정식, 대수학으로 완성되다!

오늘날 학교에서 배우는 방정식은 모두 x와 같은 문자로 이뤄져 있다.

일차방정식으로부터 시작해 2차, 3차 방정식은 물론이고 포물선, 타원, 원과 같은 도형도 식으로 만들어 문제를 푼다. 이뿐만이 아니라 수학 문제의 많은 부분이 방정식 형태로 이뤄져 있다. 서양에서의 방정식은 어떤 과정을 거치며 발전했을까?

고대 사람들은 수세기와 간단한 일차방정식은 물론이고, 이차방정식의 해를 구하는 ‘근의 공식’마저도 알고 있었다. 바빌로니아 점토판에 새겨진 이차방정식의 해법은 이를 뒷받침해 준다. 이후 15~16세기에 이르러 많은 수학자들은 3, 4차 방정식의 해를 구하는 데에 몰두했다.

최초로 3, 4차 방정식의 해법을 발표한 수학자는 이탈리아의 수학자 카르다노다. 그런데 카르다노가 3차 방정식의 해법을 발견한 것은 단순히 방정식의 해를 구했다는 것 이상의 의미를 갖는다. 새로운 수인 ‘복소수’를 발견하는 계기가 되었기 때문이다.

이탈리아의 수학자 카르다노. 사진/위키미디어

카르다노는 3차 방정식의 해법을 구하는 과정에서 제곱해서 음수가 되는 경우를 종종 맞닥트렸다. 음수의 존재도 받아들여지지 않았던 당시의 시각에서 보면 이상한 일이었지만, 카르다노는 이를 대수롭지 않게 여기고 계산을 계속 했고, 그 결과 3차 방정식의 해법을 찾아냈다.

이후 복소수는 수학자 봄벨리와 데카르트 등 여러 수학자들로부터 새로운 수로 인정받게 되었지만, 카르다노의 해법에서 복소수의 발견이 예고됐다고 볼 수 있다. 3, 4차 방정식의 일반적인 해법이 공개되자, 수학자들은 더욱 고차 방정식의 해법에 대한 호기심을 갖기 시작했다. 게다가 17세기에 데카르트가 x를 도입하면서 유클리드 기하학에 혁명적인 일이 일어나게 되었다. 도형을 식으로 나타내기 시작한 것이다.

18세기로 넘어가면서 방정식의 연구는 더욱 깊어지고 확대되었다. 당시 가장 두드러진 두 가지 관심사 중 첫 번째는 17세기 데카르트와 프랑스의 수학자 지라르가 제안한 ‘대수학의 기본 정리’다. 간단히 설명하면 다음 문장과 같다.

대수학의 기본 정리는 일반적인 방정식의 해의 존재에 관한 정리로, 이름처럼 대수학의 기본이 되는 역할을 한다. 여러 수학자들이 이를 증명하기 위해 노력했는데, 최초의 증명은 프랑스의 수학자 달랑베르가 1746년에 증명을 발표했으나 방법이 부족했다. 이후 1749년에는 오일러가, 1772년에는 라그랑주, 1795년에는 라플라스가 증명을 발표했으나,결국 증명은 1799년 가우스에 의해서 완성되었다.

한편 또 다른 관심사는 ‘5차 방정식’이었다. 수학자들은 5차 방정식을 풀기 위해 애를 쓰기 시작했다. 오일러, 베주, 라그랑주 등 내로라하는 여러 수학자들이 노력했으나 풀지 못했고, 1824년 노르웨이 수학자 아벨에 의해 결국 5차 방정식의 일반해를 푸는 방법은 없다는 것이 증명되었다.

이후 수학자들은 이제 더 이상 고차 방정식의 일반해를 찾기 위해 노력할 필요가 없었다. 그러나 프랑스의 수학자 갈루아는 방정식의 풀이를 뛰어넘어 방정식을 풀기 위해 필요한 바탕, 즉 ‘체(Field)’라는 수학적 구조에 몰두했다. 수학적인 구조를 분석하며 방정식의 풀이 가능성을 알아내고자 한 것이다. 이런 갈루아의 연구는 수학의 중요한 한 분야로 남게 되었다.
이렇듯 방정식을 향한 서양 수학자들의 연구는 해를 구하는 노력으로부터 시작해 결국은 더 넓은 수학적 구조를 연구하는 ‘대수학’이라는 수학의 분야로 완성되었다.

수학동아