미적분을 배워 어디에 써먹죠?

미적분을 배워 어디에 써 먹죠?’라는 수많은 독자들의 항의에 수학자 조던 엘런버그는 답을 한다. 복권에서 당첨되기 위해, 빅데이터에 속지 않기 위해, 전쟁에서 이기기위해서라고,

‘틀리지 않는 법 수학적 사고의 힘’을 쓴 조던 엘렌버그 (Jordan Ellenberg 1971~) 는 이력서에 눈길이 가는 과학자이다.

어릴 때 부터 수학신동으로 이름을 날렸다. 9세에 대학과정을 시작했으며 12세에 SAT(대학진학적성시험) 수학부문에서 만점을 받았다. 국제수학올림피아드에 세차례 나가 금메달 2개와 은메달 1개를 차지했다. 하버드 대학에서 박사학위를 받고 위스콘신 주립대학 수학교수로 부임한 것이 2004년이니 그의 나이 겨우 33세때이다.

‘신동’ 소리 들은 수학자의 소설같은 책

우리나라에서 신동으로 불리웠던 몇몇 사람들은 나이가 들면서도 그 같은 명성을 유지하지 못했다. 신동이라는 소문이 들리자마자 지나친 관심이나 또는 시기심이 뒤범벅이 된 논란의 중심에 빠져 좋은 결과를 낳지 못하는 것을 더 자주 본다.

엘렌버그는 석사학위는 과학분야가 아니다. 2004년 존스 홉킨스 대학에서 소설작법으로 석사학위를 받고 ‘메뚜기왕’이라는 소설을 내 뉴욕공립도서관이 주는 2004년 Young Lions Fiction Award 최종 후보작에 오르기도 했다.

아마존 킨들의 스포트라이트 기능을 이용해서 토마 피케티의 ‘21세기 자본’을 구입한 사람들이 평균 2,4%만 읽었다는 분석을 담은 2014년 엘런버그의 칼럼은 우리나라에도 소개되면서 이름을 알렸다.

책 제목이 암시하듯 이 책은 수학을 잘하면 틀리지 않고 살 수 있다는 법을 가르친다. 이는 수학에 관한 책이라기 보다 수학을 통해서 일상생활에서 어떻게 지혜를 발견할 수 있는지를 보여준다.

알파고가 이세돌 9단을 꺾은 이후 우리나라에서는 인공지능에 대한 두려움이 높아졌다. 똑똑한 인공지능을 가능하게 한 여러 기술 중 하나는 빅데이터 처리기술이다.

미국의 타겟(Target) 고객마케팅 팀에서 개발한 통계모형을 가지고 분석해보니 미네소타의 한 10대 소녀가 무향 로션, 미네랄보충제, 약솜구입이 늘어난 것을 보고  임신한 사실을 추론했다는 내용이 2012년 뉴욕타임즈 매거진에 보도된 적이 있다. 타겟은 소녀에게 아기용품 쿠폰을 보내기 시작했고 그 사실을 뒤늦게 안 소녀의 아버지는 크게 놀랐다는 내용이다.

총맞은 비행기 사례에서 ‘어디를 보완해야 할까?’

이런 몇가지 소식을 들으면서 사람들은 빅데이터가 나의 모든 행동패턴과 일상생활을 낱낱이 들여다보는 것이 아닌지 오싹해하지만, 이것 역시 허점이 노출될 수 있다. 좋은 알고리즘이라면 물론 사람들에게 도움을 주겠지만, 잘못되거나 악용되는 알고리즘은 더욱 큰 위험을 가져올 수 있다.

그 중 하나가 총맞은 비행기 부분이다. 2차대전에서 생환한 미국 전투기들을 관찰했더니 제곱피트당 총알구멍 개수가  엔진이 1.11 동체 1.73 연료계 1.55 기체나머지 부분 1.8이었다. 전투기 생존율을 높이기 위해 총알방지용 철갑을 어느 부분에 더 붙여야 할까? 보통 상식으로 보면, 총알자국이 많이 난 동체부분이라고 대답할 것이다.

수학자 아브라함 발드는 그 반대로 총알구멍이 적은 곳, 엔진에 둘러야 한다고 조언했다. 엔진 부분에 총알자국이 적은 것은 엔진에 총알을 맞으면 대부분 추락했기 때문이다. 동체에 총알자국이 많은 것은 동체가 그만큼 치명적이 아니기 때문이다.  병원에 가면 가슴이 총알구멍을 맞은 군인은 적어도, 다리에 총상입은 부상병이 많은 것과 똑같은 이유이다.

이같은 조언을 통해서 미군이 2차대전에서 승리하는데 큰 도움을 준 통계연구그룹 SRG은 ‘질과 양을 통해서 역사상 가장 탁월한 통계학자 집단’이라는 평가를 받기도 했다.

총알맞은 엔진의 사례는 펀드에서도, 교육을비롯한 다양한 연구실험에서도 반복된다. 금융기관들이 자랑하는 펀드수익률은 진짜일까? 어느 시점에서 살아남은 펀드의 수익률만 가지고 평균을 낸다. 수익률이 낮아서 생존하지 못한 펀드까지 포함해야 하는데도 말이다.

수학자의 논리로만 보면 모든 것이 다 추론가능하고 계산가능한 것처럼 보이지만, 그렇지 않다는 것은 위대한 수학자중 한 명인 블레즈 파스칼(Blaise Pascal 1623~1662)이 이미 설명한 적이 있다.

파스칼은 신의 존재에 관한 질문은 ‘논리가 범접할 수 없는 영역’이라고 보았다. 신은 존재하거나 존재하지 않는다. 인간은 어느 쪽으로 기울여야 하는가? 기하학과 확률에 대해서도 정통했던 파스칼은 ‘중요한 것은 신이 존재할 확률이 0은 아니라는 사실’이라고 말했다.사람들은 수학자 파스칼 보다 죽기전에 남긴 명상집인 ‘팡세’를 더 기억한다.

저자는 미적분을 공부하는 학생들이 ‘제가 이걸 어디에 써 먹죠?’라는 질문에 절절매는 교수를 생각하면서 이 책을 썼다. 수학이면 머리를 아파하는 독자들도 그가 일간지와 잡지에 일상생활속의 여러 현상속에 수학이 어떻게 작용하는지를 쓴 글은 관심을 갖는다.

복권을 살 때 기대해야 할 것은, 비행기를 더 많이 놓쳐라, 잘생긴 남자들은 성격이 고약한가, 미국인들이 바보가 아닌 까닭, 복권에 뛰어든 MIT 학생들 같은 소제목의 글들은 수학이라면 고개를 돌리는 독자들의 시선을 끈다.

 ScienceTimes