게임이 중단됐다, 상금은 어떻게 나눠야 정당할까

정당한 가격이란 무엇일까… 당신의 연금은 어떻게 계산됐을까

생명보험은 어떻게 산출될까… 만약 수학이 없었다면 아직도 끙끙댔을 문제들

가격이 정해지는 과정은 경제학에서 무척이나 중요하다. 시장경제에서 가격 하면 대부분 17~18세기에 존 로크, 데이비드 리카르도, 애덤 스미스 등에 의해 정립된 '수요 공급의 원리'를 떠올릴 것이다. 수요가 많은데 공급이 달리면 가격이 오르고, 반대로 수요가 적은데 공급이 늘면 가격이 떨어진다는 원리다.

하지만 시장경제도 가격과 거래의 정당성을 무시할 수는 없어 대부분의 국가에서 상거래를 법으로 규제하고 있다. 소비자 보호법이나 최저임금제가 그렇다. 과연 '정당한 가격'이란 무엇일까. 거래에 있어서 시장의 원리만이 아니라 정의에 입각한 가격의 설정이 필요하다면 정당한 가격을 결정하는 방법론 또한 필요할 것이다. 수학이 세상을 바꾼 또 하나의 예가 여기에 있다.

정당한 가격에 대한 논의는 오래됐다. 유스티아누스 황제의 로마법전 'C4.44.2조'에서 정당한 가격이론이 처음 등장한다. 이후 13세기 신학의 거장 토마스 아퀴나스가 명저 '신학 대전'에서 부당한 거래를 사회악으로 규정하면서 구체화됐다. 예를 들어 아퀴나스는 자연재해를 당해 물자가 부족한 상황을 상인이 이용하면 안 된다고 했다.

하지만 보편적인 윤리에 입각해 부당한 상거래를 규제한다 해도 정당한 가격을 정량적으로 결정하는 문제는 남는다. 영국 옥스퍼드대 퀸스 칼리지의 법학자인 키아라 케네픽 교수는 최근 옥스퍼드 수학연구소에서 한 강의에서 이런 문제의 어려움을 잘 나타내는 역사적 사례를 제시했다. 프랑스와 영국에서 정당한 가격이론과 확률론의 역사가 맞물렸다는 것이다.

페르마 / 파스칼

 

산업혁명의 효과로 자본주의가 급격히 확산되던 18~19세기에도 프랑스에서는 계약의 자유가 법에 의해서 꽤 엄격하게 통제됐다. 1804년 민법 1674조는 '부동산 거래가 정당한 가격의 5분의 2 이하로 이뤄졌을 경우 번복될 수 있다'고 명시했다. 그런데 같은 법 1976조에 연금의 판매가는 완전히 자유로운 계약에 의해서 정하게 돼 있다. 법 제정에 참여했던 법관 듀베리예는 '이런 임의적인 계약에서의 이윤과 손실은 완전한 미스터리이기 때문에 정당하거나 부당한 가격의 논의는 불가능하다'고 단언했다. 연금의 정당한 가격을 따지려면 수명을 알아야 하지만 수명은 임의적이기 때문에 정당한 가격이 없다는 결론을 내린 것이다.

오늘날은 다르다. 확률론이 널리 보급된 지금은 '기댓값'의 계산이 너무나도 흔히 쓰이기 때문이다. 수명의 경우 어떤 사람의 구체적인 상황, 가령 나이나 건강상태, 생활습관 등을 알면 통계자료에 입각한 확률을 이용해 은퇴 후 연금 수혜액의 기댓값을 쉽게 계산할 수 있다. 즉 연금의 정당한 가격을 이야기할 근거는 수명의 확률론적인 기댓값으로부터 나오는 것이다.

아이로니컬하게도 기댓값을 알게 해준 확률론도 프랑스에서 시작됐다. 시작은 르네상스 수학자들이 남겨 놓은 난제인 '중단된 게임 문제'였다. 100점에 먼저 도달하는 사람이 상금 100만원을 차지한다고 하자. 만약 게임이 불가피하게 중단됐을 때 상금을 어떻게 나누는 것이 정당할까. 점수가 50대50, 또는 99대2이면 반반씩 나누거나 한 쪽이 거의 다 차지하면 된다. 문제는 어중간한 점수다. 59대50 또는 99대90이라면 어떻게 해야 할까. 1654년 여름 파리에 살던 철학자 블레즈 파스칼은 아버지와 친분이 있던 툴루즈의 법관 피에르 드 페르마에게 조언을 구했다. 몇 달에 걸친 편지 교환 끝에 이들은 문제를 완벽하게 해결했다. 바로 '각자 자신의 기댓값만큼 받아야 한다'는 것이다.

17세기 플랑드르의 화가 테오도르 롬보츠가 그린 ‘카드 게임 하는 사람들’. 이 시기 파스칼과 페르마는 편지를 주고받으며 ‘게임이 불가피하게 중단됐을 때 상금은 각자의 기댓값만큼 받아야 한다’는 결론을 내렸다. 이후 수명의 확률론적 기댓값을 계산할 수 있게 되면서 연금의 ‘정당한 가격’을 정할 수 있었다. / 위키미디어 제공

게임이 동전 던지기이고 갑 대 을의 점수가 98대99라고 생각해 보자. 앞면이 나오면 갑이 1점, 뒷면이 나오면 을이 1점씩 얻는다고 하자. 갑이 이기려면 앞면이 두 번 연속 나오는 방법밖에 없다. 앞면이 나오는 확률이 2분의 1이므로 게임이 계속됐다면 갑이 이길 확률은 2분의 1과 2분의 1을 곱한 4분의 1, 을이 이길 확률은 그 나머지인 4분의 3이다. 페르마와 파스칼은 갑에게 기댓값 (1/4)×(100만원)=25만원을 주고 을에게 기댓값 (3/4)×(100만원)=75만원을 주면 된다고 했다.

어째서 이런 문제가 그토록 어렵게 느껴졌을까. 미래에 대해 체계적으로 사고할 수 있다는 자신감은 종교와 신비에 둘러싸인 세계관이 갈릴레오, 뉴턴 등에 의해 정량적인 과학 이론으로 대체되기 시작한 17세기에 와서야 가능했기 때문이다. 케네픽 교수의 강연에서도 구시대 관점의 장애가 여러 번 강조됐다. 확률론의 급속한 발전 이후로도 인간 수명의 기댓값을 법적으로 이용할 수 있다는 주장은 계속 반대에 부딪혔다. 프랑스 법정에서 확률론을 거부하는 판례가 1938년까지도 나타났다고 한다.

영국은 상황이 달랐다. 영국법에서 확률론적인 기댓값 계산을 인정한 기록이 18세기 중반부터는 나타난다. 케네픽 교수는 프랑스와 영국의 차이를 생명보험의 전통과 결부해서 설명했다. 프랑스에서는 생명보험이 혁명 이후까지 불법이었던 반면, 영국에서는 훨씬 전부터 성행했다는 것이다. 영국에서는 역사적으로 가장 오래된 '생명 기대치표'가 천문학자이자 기하학자였던 헤일리에 의해서 1693년에 만들어져 있었고, 18세기 중엽에는 영국 계리사협회도 결성됐다. 보험을 사고팔 때 수명의 기댓값을 감안한다는 사실에 익숙해져 있었던 영국 사회에서는 연금의 거래에서도 확률론을 당연시하는 문화가 일찍 형성된 것이다. 학문의 대중화가 상업문화 덕을 본 것이다.

인간이 인간 자신에 대해서 과학적으로 사고하는 작업은 여전히 어렵다. 첨단기술이 순식간에 전 세계로 퍼지는 지금도 과학적인 사고를 인간에게 고귀한 가치, 생명, 사랑, 건강 등에 적용하는 데 대한 거부감은 존재한다. 대표적인 예가 국가 의료시스템의 자원 배분 문제이다. 통계 자료에 따라 자원 배분을 결정하는 작업은 당연히 필요하지만 공식적으로 거론하기는 쉽지 않다. 인간의 목숨과 건강이 어떤 상황에서나 똑같이 중요하다는 원칙에 위배된다는 느낌 때문일 것이다. 그런 가운데 사회 형성의 객관적인 원리와 부합되는 체제를 건설한다는 이상을 꾸준히 추구할 수밖에 없는 것이 과학자들의 운명이기도 하다.

[김민형 英 옥스퍼드대 수학연구소 교수· 이화여대 수학과 석좌교수]