적분은 미분의 반대가 아니다

미적분의 재발견 적분

면의 넓이나 입체의 부피 등을 구하는 적분은 미분이 발명되기 훨씬 이전인 고대 이집트 시대부터 미분과는 별개의 학문으로 발달했다. 그런데 17세기 뉴턴과 라이프니츠가 미적분학을 정립한 뒤, 적분은 결국 미분의 역연산과 같다는 ‘미적분학의 기본정리’가 발표되면서 적분이 미분의 하위 개념으로 간주되기 시작했다. 가령 레온하르트 오일러는 “적분학이란 주어진 미분으로부터 그 양 자체를 찾아내는 방법이고, 이를 제공하는 연산을 일반적으로 적분이라 부른다”라고 했다. 이후 코시가 적분을 극한으로 정의하고 나서야 적분이 미분의 역연산과 독립적이라는 사실이 받아들여졌지만, 여전히 적분의 정의는 모호했다.

앙리 르베그, ‘측도’ 개념으로 적분을 확장하다

적분을 엄밀하게 정의한 최초의 수학자는 19세기 베른하르트 리만이다. 그는 주어진 구간에서 리만 합의 극한으로 적분을 정의했다. 적분하려는 구간을 작게 쪼개면, 각각의 구간들은 직사각형이 된다. 이 때 곡선과 만나는 어느 지점을 사각형의 높이로 삼을지에 따라 크기가 달라진다. 예컨대, 각 구간에서 최댓값만을 더한 ‘최댓값 리만 합’과, 최솟값만을 더한 ‘최솟값 리만 합’은 같지 않다(오른쪽 그림 참조). 그러나 무한대로 쪼개면 값이 거의 비슷해진다. 다시 말해, 극한을 취하면 결국 하나의 값으로 수렴한다. 이렇게 정의된 적분이 ‘리만 적분’이며, 우리가 흔히 봐 온 적분이다.

전인태 가톨릭대 수학과 교수는 “그러나 현대적 의미의 적분에서는 이 정의도 엄밀하지 않다”며 “어떤 함수는 이런 방식으로 적분이 불가능하다”고 말한다. 예를 들어 보자. 정의역이 유리수일 때는 1이고, 무리수일 때는 2인 함수가 있다. 무리수와 유리수는 실수 상에서 조밀하기 때문에 구간을 아무리 잘게 쪼개도 그 안에 무한히 많은 무리수와 유리수가 있다. 따라서 리만 적분을 하기 위해 쪼갠 어떤 구간에서도 최댓값은 항상 2, 최솟값은 항상 1이다. 따라서 최댓값 리만 합과 최솟값 리만 합은 구간을 아무리 작게 쪼개도 서로 수렴하지 않는다. 리만 합을 정의할 수 없다. 즉, 리만 적분이 불가능하다.




이를 해결하기 위해 프랑스 수학자 앙리 르베그는 1902년 그의 박사 학위 논문에서 ‘측도(measure)’라는 새로운 개념을 도입했다. 측도란, 특정 부분 집합에 추상적으로 ‘크기’를 부여하는 함수다. 예를 들어, 유리수와 무리수들의 집합의 ‘길이’를 측도로 정의할 수 있다. 르베그는 측도로부터 적분을 새롭게 정의했다. 리만이 함수 그래프를 세로로 쪼갠 것과 달리 가로 방향으로 쪼갰다. 그리고 특정 함수 값에 해당하는 정의역 구간의 길이, 즉 측도를 구해 함수값을 곱한 뒤 모두 더했다. 이 값이 바로 르베그 적분이다. 르베그는 대중을 대상으로 쓴 글에서 다음과 같은 비유를 들었다. “어떤 가게 주인이 매상을 정리할 때 두 가지 방법이 있다. 첫 번째는 돈이 들어온 순서대로 동전이든 지폐든 마구잡이로 세는 방법이다. 이는 주어진 구간을 왼쪽부터 오른쪽으로 지나가면서 만나는 함수 값을 다 더하는 리만 적분과 같다. 또 다른 방법은 1000원짜리 12장, 1만 원짜리 20장, 5만 원짜리 8장 등으로 분류한 뒤, 각 금액에 장 수를 곱해 더하는 방법이다. 여기서 지폐의 액수는 함수 값이고, 장 수는 함수 값에 해당하는 정의역의 길이, 즉 측도에 해당한다. 매상은 유한한 값이므로 두 방법 모두 같은 결과를 가져오지만, 무한히 많고 나눌 수 없는 수들을 더하는 경우에는 큰 차이가 생긴다.”
 

​
미분해도 원래의 함수로 돌아오지 않는다

앞의 예로 돌아가 보자. 함수 값 2에 해당하는 정의 역의 길이, 즉 무리수의 측도와 2를 곱한다. 함수 값 1
에 해당하는 정의역의 길이, 즉 유리수의 측도와 1을 곱한다. 둘을 더한 값이 바로 르베그 적분이다. 이렇게 구한 적분은 다시 미분한다고 해서 원래 함수가 되지 않는다. 물론 리만 적분이 가능한 함수라면 르베그 적분과 값이 동일하며, 이 때는 미분하면 원래 함수로 돌아간다.

르베그의 업적은 기존에 적분 불가능했던 함수를 적분 가능하게 만든 획기적인 발견이다. 리만 적분보다 훨씬 일반적이고 광범위하다. 형태의 제약도 받지 않기 때문에 리만 적분으로는 쉽게 구할 수 없었던 강철 구의 질량을 르베그 적분으로 간단히 구할 수 있다. 전 교수는 “확률함수를 적분하면 기댓값을 구할 수 있는데, 확률함수는 적분이 불가능한 경우가 많았다”며 “전체 측도가 1인 확률함수가 정의되고 르베그 적분으로 기댓값이 정의되면서 확률론이 획기적으로 발달했다”고 설명했다.
동아사이언스