리만 가설 증명되면 암호가 다 뚫린다?

최근 영국의 한 원로 수학자가 증명했다고 주장한 ‘리만 가설’이 검색어 상위에 오르는 등 화제가 되었다. 그는 수학의 노벨상이라 불리는 필즈 메달과 아벨상을 수상하는 등 많은 업적을 낸 저명한 수학자이지만, 올해 90세에 가까운 고령이다 보니 수학계에서는 반신반의하는 듯하다.
 
리만 가설은 1과 그 수 자신으로만 나누어떨어지는 수인 소수(素數)들의 분포가 일정한 패턴을 가지고 있을 것이라고 주장한 리만의 1859년 발표 논문에서 비롯되었다. 이 가설에는 복소함수론 등의 전문 수학지식이 포함되므로 일반 대중들이 정확한 의미를 이해하기는 어렵지만, 많은 수학자들이 오랫동안 해결하려 노력해온 유명한 문제이다. 지난 2000년 미국 클레이수학연구소가 증명에 100만 달러씩의 상금을 내걸고 선정한 이른바 ‘밀레니엄 7대 수학 난제’ 중 하나이기도 하다.
 

공감의 과학 10/08

수학에서 소수 관련 분야는 여전히 미해결 부분들이 적지 않다. “2보다 큰 모든 짝수는 두 소수의 합으로 표시할 수 있다”는 ‘골드바흐의 추측’은 리만 가설과 달리 초등학생도 그 뜻을 이해할 수 있지만, 수백 년이 지난 지금도 이를 완벽히 증명한 수학자는 하나도 없다.

그런데 리만 가설이 완전히 증명되면 현재의 암호체계가 모두 뚫려서 큰 혼란이 올 것이라는 얘기가 떠돌곤 하는데 과연 그럴까? 신용카드나 온라인 인증 등에서 알게 모르게 숱하게 사용되는 현행 암호체계는 소인수분해와 관련이 깊다. RSA 암호라 불리는 대표적 암호방식은 두 개의 수를 곱하는 것은 쉽지만, 역으로 매우 커다란 자연수를 두 개의 소수로 소인수분해하는 데에는 시간이 무척 많이 걸린다는 데에서 착안된 것이다.
 
그러나 설령 소수 분포에 대해 새로운 사실을 알게 된다 하더라도, 소인수분해를 실시간으로 매우 빨리 하는 것은 좀 다른 문제이다. 따라서 리만 가설의 증명으로 암호체계가 무용지물이 된다는 괴담은 지나친 비약이다. 그보다는 양자컴퓨터(Quantum computer)가 상용화된다면 암호체계가 위협받을 가능성은 크다. 현재의 수퍼컴퓨터로 수백 년 이상 걸리는 계산을 고성능의 양자컴퓨터라면 단 몇분 내에 풀어낼 수도 있기 때문이다. 물론 그런 날이 온다면 현행 암호체계 역시 전면적으로 개편해야 할 것이다. 

 중앙일보