현대수학은 ‘편미방’을 모른다?

미분방정식은 미지의 함수 f와, 그 함수를 미분한 도함수 f’으로 이뤄진 방정식이다. 가령 날씨 변화를 관찰해 시간과 온도, 습도 등을 변수로 미분방정식을 세우면, 그 방정식을 풀어서 날씨 함수를 구할 수 있다. 이 함수를 보면 미래의 날씨도 예측할 수 있다.

그런데 날씨 변화나 유체의 흐름, 시장의 가격 변동 등 어떤 현상에 영향을 주는 변수는 대부분 2개 이상이기 때문에, 자연을 기술하는 미분방정식은 대부분 편미분방정식(PDE)이다. 편미분이란 특정 변수를 제외한 나머지 변수를 상수로 가정하고 미분하는 방법이다.

물리학에 미분방정식을 처음 접목한 과학자는 뉴턴이다. 그는 1687년 ‘자연철학의 수학적 원리’에서 시간에 따라 변하는 운동을 미분방정식으로 적었다. 18세기가 되자 오일러, 달랑베르, 베르누이 등 걸출한 과학자들이 탄성계의 운동을 편미분방정식으로 표현했다.

편미분방정식의 중요성은 날로 커졌다. 영국의 이론물리학자 제임스 클러크 맥스웰이 세운 전자기 방정식에서 절정을 이뤘다. 맥스웰은 전자기 현상을 편미분방정식으로 표현하는 데 성공했다. 그런데 방정식을 분석하자, 전기장과 자기장의 교란이 공간상으로 퍼져 나간다는 결과가 나왔다. 당시까지 누구도 몰랐던 물리현상을 방정식이 암시한 것이다. 맥스웰은 이를 바탕으로 빛이 전자기장 교란의 한 형태라고 추정했고, 그의 이론은 훗날 실험으로 증명됐다. 전인태 가톨릭대 수학과 교수는 “근대과학은 편미분방정식과 함께 발전했다고 해도 과언이 아니다”라며 “미분방정식을 풀면 세상의 모든 변화를 설명할 수 있다”고 말했다.

현실을 보고 만든 편미분방정식, 과연 현실적일까

하지만 아직 어느 무엇도 그렇게 전지전능하지 않다. 미분방정식을 풀어서 미지의 함수를 찾아낸다는 것이 상상 이상으로 어렵기 때문이다. 대표적인 문제가 ‘특이점’이다. 특이점이란 함수 그래프로 말하자면 뾰족한 지점이다. 접선을 그릴 수 없고 따라서 기울기도 구할 수 없다. 즉, 미분이 불가능하다. 미분방정식은 미지의 함수를 여러 번 미분한 도함수들 사이의 관계를 나타낸 방정식이기 때문에, 방정식을 풀어서 구한 원래 함수는 최소한 방정식에 제시된 만큼은 미분 가능해야 한다. 특이점이 나오면 결국 미분방정식 자체가 성립하지 않게 된다는 얘기다.

세계 7대 난제 중 하나였던 푸앵카레 추측도 이런 특이점 문제와 관련돼 있다. 푸앵카레 추측은 “어떤 하나의 밀폐된 3차원 공간에서 모든 밀폐된 곡선이 수축해 하나의 점이 될 수 있다면, 이 공간은 반드시 구로 변형할 수 있다”는 명제다. 본래 위상수학 문제지만, 미국의 수학자 해밀턴이 이를 ‘리치 흐름’이라는 편미분방정식 문제로 바꿨다. 이 문제는 풀이 과정에서 다양한 유형의 특이점이 나타나 당시 증명에는 실패했다. 그런데 러시아 수학자 그레고리 페렐만이 2002년 어떤 특이점은 절대 발생할 수 없고, 다른 유형들은 잘 통제된 방식으로 행동한다는 것을 밝혀 푸앵카레 추측이 맞다는 것을 증명했다.

그렇다면 특이점은 왜 생기는 걸까. 이기암 서울대 수리과학부 교수는 “편미분방정식의 해는 자연현상을 단순화한 모델에 불과하기 때문”이라고 설명했다. “어떤 물체의 운동을 확대하면서 분석한다고 가정해 봅시다. 계속 키우다 보면 어느 순간부터는 양자세계 관점에서 분석해야 할 겁니다. 하지만 수학적 풀이 과정에서는 전체를 연속체라고 가정하거든요. 어느 지점에서는 모순이 나타날 수밖에 없는 거지요.” 현실을 보고 만든 편미분방정식이지만, 그 방정식을 풀어서 구한 함수가 현실적인지는 모른다는 얘기다.

편미분방정식에서 나온 함수는 특이점이 없으면서, 무한 번 미분 가능해야 한다. 물리 현상 가운데 불연속적이거나 현상이 갑작스럽게 바뀌는 경우가 적기 때문이다. 이런 함수를 ‘매끄러운 함수’라고 부르며, “정칙성(regularity)을 만족한다”고 한다. 채동호 중앙대 수학과 교수는 “미분방정식을 풀어서 구한 함수가 충분히 매끄럽지 않다면, 즉 정칙성이 깨진다면 그 방정식은 물리 현상을 제대로 표현하지 못한 자격 미달의 방정식일 가능성이 있다”고 말했다.

​

​

난류가 불연속인 걸까, 나비어-스톡스 방정식이 틀린 걸까

물론 물리현상 자체가 특이점이 생기는 불연속함수일 수 있다. 두 손으로 나무 젓가락 양쪽을 잡고 구부리면, 힘을 준 만큼에 비례해서 휘어지다가 어느 순간 갑자기 ‘툭’ 부러진다. 밀가루 반죽을 양쪽에서 잡아 당기면, 힘에 비례해 길이가 늘어나다가 어느 순간 끊어진다. 제트기가 점차 속도를 높이면 제트기 앞의 공기 밀도가 증가하는데, 속도가 음속(마하 1)을 넘기는 순간 밀도가 불연속인 공기 흐름(충격파)이 나타난다. 현상을 제대로 반영해 만든 편미분방정식이라면, 이런 경우 특이점이 나타나야 옳다.

결국 정칙성은 물리현상의 기본적인 특성과 직결돼 있다. 예컨대 세계 7대 난제 중 하나인, 난류의 운동을 기술하는 나비어-스톡스 방정식은 매끄러운 함수 해가 존재하는지 아직 모른다. 채 교수는 “두 가지 해석이 가능하다”고 말했다. “첫째, 나비어-스톡스 방정식이 자격 미달의 틀린 방정식일 가능성입니다. 둘째는 난류 자체가 충격파처럼 불연속적인 지점이 나타나는 물리현상일 가능성이죠. 난류를 보는 패러다임 자체가 달라진다는 얘기입니다.”

현재 나비어-스톡스 방정식은 특이점을 포함하는 불완전한 해만 알려져 있다. 난류에서 나타나는 다양한 특성을 만족하는 추상적인 함수 집합을 정의하고, 그 안에서 해를 찾은 것이다. 이를 ‘약한 해(weak solution)’라고 한다. 엄밀한 의미에서 해라고 볼 수 없지만, 매끄러운 함수 가운데에서 해를 찾지 못한 편미분방정식에 해결의 실마리를 제공한다. 이기암 교수는 “해의 개념을 특이점까지 포함하는 함수로 확장한 건, 편미분방정식의 역사에서 한 획을 그은 아주 대단한 발견”이라고 평가했다.

함수 집합을 잘 정의하면 상당히 많은 편미분방정식의 약한 해를 구할 수 있다. 예를 들어, 다비트 힐베르트가 1912년 정의한 ‘힐베르트 공간’이 있다. 특정 수열의 극한이 존재하는 추상적인 함수 집합으로, 양자역학이나 신호처리 문제 등을 푸는 데 응용된다.



우리는 편미분방정식 형성 역사의 산 증인

아직 수많은 편미분방정식에서 정칙성 문제조차 해결되지 않았다. 현실에 응용할 때는 보통 컴퓨터 수치해석으로 근사해를 구한다. 결과는 당연히 실제와 다를 수밖에 없다. 채동호 교수는 “물리적 근거가 없는 수치해석 모델이 상당히 많다”고 말했다. 이런 모델에서는 초기 조건의 미세한 차이가 어마어마한 결과값 차이를 가져오는 ‘나비효과’가 빈번하게 일어난다. 컴퓨터 그래픽으로 만든 불꽃이 어색해 보이고 일기 예보가 틀리는 이유다.

채 교수는 “현대 수학은 편미분방정식을 이해할 준비가 아직 덜 돼 있다”고 덧붙였다. “‘3 이상 지수의 거듭제곱수는 같은 지수의 두 거듭제곱수의 합으로 나타낼 수 없다’는 페르마의 마지막 정리를 해결하는 데 300년이 걸렸습니다. 아주 기초적인 방정식인데 말이죠. 함수의 편미분항으로 이뤄진 편미분방정식이 이보다 더 어렵다는 건 자명합니다. 나비어-스톡스 방정식을 풀려면 현대수학 이론이 지금보다 훨씬 발달해야 합니다.”

최근 100년은 편미분방정식의 해의 존재 여부를 검증하는 역사였다. 2015년을 살아가는 우리는, 이제 막 형태를 갖춘 편미분방정식의 역사를 관통하는 산 증인인 셈이다. 그러니 누가 알겠는가. 곧 획기적인 해결법이 등장해 토네이도의 이동 경로는 물론, 세상 모든 변화하는 것들을 속속들이 예측할 수 있게 될지. 편미분방정식의 앞으로 100년이 기대되는 이유다.

동아사이언스