프로그래머가 수학을 공부하는 이유: 철통 암호 개발은 정수론으로 부터

정수론(수의 성질을 연구하는 수학)을 공부하는 프로그래머가 늘고 있다. 개인정보 보호에 대한 목소리가 높아지면서 기업들이 앞다퉈 새로운 암호 개발에 투자하고 있기 때문이다.

우리가 사용하고 있는 공개키 암호는 암호가 걸린 상태에서 통계 분석을 할 수 없다. 의미 있는 정보를 얻기 위해선 반드시 암호를 풀어 원래 데이터로 돌려놔야 한다. 이 과정에서 여러 사람에게 개인정보가 노출된다.

완전동형암호 기술을 이용하면 이 문제를 해결할 수 있다. 암호가 걸린 상태에서도 자유자재로 데이터 분석이 가능하기 때문이다. 문제는 상용화다. 아직 이 암호를 적용한 기기나 프로그램이 없다.

다행히 여러 기업들이 완전동형암호 기술을 현장에 적용하기 위해 투자와 연구에 발 벗고 나서고 있다. 삼성전자와 SK텔레콤은 지문이나 얼굴, 홍채 인식으로 입력받은 정보를 완전동형암호로 암호화하는 방법을 서울대 수리과학부와 함께 연구하고 있다. 이스트소프트와 코나아이도 서울대와 함께 암호 개발을 하고 있다.

삼성전자와 KT는 2013년 완전동형암호를 개발해 주목을 받은 천정희 서울대 수리과학부 교수를 정기적으로 초청해 프로그래머들에게 수학을 가르치고 있다. 첨단 기술 개발에 박차를 가하기 위해서는 암호의 토대를 이루는 정수론을 꼭 공부해야 하기 때문이다.

천 교수는 “불과 몇 년 전만 해도 수학을 기초로 한 암호 연구는 비용과 시간이 많이 들어 국내 산업계의 주목을 받지 못했지만, 개인정보 보호의 필요성이 커지면서 최근 1~2년 사이 많은 기업이 관심을 보이고 있다”고 소개했다.
● 수학은 프로그래머의 운명

삼성전자를 다니던 2014년 천 교수에게 수업을 들은 조재익 IBM 보안사업부 부장은 기존 기기의 보안 취약점을 분석해 사물인터넷과 스마트폰에 들어가는 새로운 보안 알고리즘을 개발한다. 그는 “개발자에게 수학은 숙명도 같은 것”이라며, “스마트폰을 비롯해 여러 기기에서 사용하는 보안 방식은 정수론을 이용하고 있어 강의가 새로운 기술을 개발하는 데 도움이 된다”고 말했다.

조 부장은 수학이라면 치를 떠는 학생이었다. 수능이 끝나고 옥상에서 수학책을 불태웠을 정도다. 어른이 되면 다시는 수학을 공부하지 않아도 되는 줄 알고 이 같은 일을 벌였다.

그런데 컴퓨터학과를 거쳐 정보보호학 대학원에 진학하자 수학의 굴레에서 도무지 벗어날 수가 없었다. 다시 수학책을 펴들었고 꼬박 6개월을 수학 공부에만 몰두했다. 그리고 취업한 이후에는 새로운 암호 개발을 위해 정수론과 마주했다.

조 부장은 “업무에서 수학이 필요하다는 걸 뼈저리게 느끼고 나니 그 싫었던 수학도 재밌다”며 웃었다.

수학동아