우리 삶을 지켜주는 인수분해

스마트폰에서 현관문 그리고 통장까지 암호는 우리 삶에서 중요한 곳을 항상 지키고 있다. 아무나 쉽게 암호를 풀어버린다면 우리는 소중한 것을 한 순간에 모조리 잃을지 모른다. 그래서 인류는 오랜 옛날부터 쉽게 뚫리지 않는 강력한 암호를 만들기 위해 고민해 왔다. 정답은 수학에 있었다. 과연 어떤 수학의 원리가 우리의 삶을 튼튼하게 지켜주고 있는 걸까?

소인수분해가 지켜주는 내 카톡

만약 누군가 내 카톡을 마음대로 엿본다면 어떨까? 기분이 굉장히 불쾌하고 수치스러울 것이다. 심지어 내 정보가 범죄에 쓰여 위험한 상황에 빠질 수도 있다. 이런 일을 막기 위해 SNS 메신저 프로그램은 사용자가 나눈 대화를 모두 암호화한다. 이런 안전 장치를 설치해 두면 모든 데이터를 훔쳐가도 쉽게 대화 내용을 파악할 수 없다.

현재 카카오톡 같은 메신저 프로그램을 비롯해 인터넷에서 가장 많이 쓰이는 암호는 ‘RSA’다.

RSA 암호는 1977년 론 리베스트, 아디 셰미르, 레오나르드 아델만이라는 세 명의 수학자가 만들었다. RSA라는 이름은 세 사람의 이름 앞 글자에서 따온 것이다. 이 세사람은 2002년 RSA를 만든 공로를 인정받아 컴퓨터 과학의 노벨상이라 불리는 튜링상을 받았다.

RSA 암호는 소수 두 개를 곱하긴 쉽지만 그 곱을 다시 소인수분해하긴 어려운 성질을 이용한다. 세 자리 소수 113과 719를 곱해보자. 암산까진 어렵지만 연필과 종이만 있으면 81247라는 결과는 쉽게 구할 수 있다. 하지만 81247을 보고 이 수가 113과 719의 곱이라는 것을 알아내긴 매우 어렵다. 숫자가 200자리를 넘어가면 슈퍼컴퓨터도 어떤 수의 곱인지 알아내기 위해선 수백 년이 걸린다. RSA 암호는 정보를 140자리 이상의 소수의 곱으로 암호화하기 때문에 해독하기가 더욱 어렵다.

RSA 암호는 공개키 방식이다. ‘큰 수를 소인수분해하긴 어렵다’라는 암호 생성 원리는 이미 공개돼 있다는 뜻이다.

누구나 자물쇠를 열 방법(공개키)을 알고 있지만 매우 오랜 시간이 걸려야 자물쇠(문제)를 풀 수 있기 때문에 안전에는 큰 문제가 없다. 하지만 매우 빠른 계산 방법이 개발돼 문제를 푸는 시간이 줄어들면 RSA 암호는 무용지물이 돼 버린다.

이런 우려는 오래전 현실로 나타났다. 1990년대 중반에 이미 양자컴퓨터를 이용하면 아무리 큰 수라도 순식간에 소인수분해 할 수 있다는 연구결과가 발표됐다. 그렇지만 벌써부터 너무 큰 걱정을 할 필요는 없다. 양자컴퓨터가 연구 단계에 불과할 뿐더러 RSA 암호도 끊임없이 발전했기 때문이다. 아직까지 우리의 카톡은 안전하다.

---

다항식을 인수분해 하자

x, y와 같은 문자로 이뤄진 식은 숫자만큼 수학에서 자주 마주친다. 학년이 올라갈수록 식이 수학에서 차지하는 비중은 점점 커진다. 방정식이나 함수같이 중요한 수학의 개념은 모두 식으로 이뤄져 있다. 어떤 식이든지 당황하지 않고 처리할 수 있어야 점점 복잡해지는 수학에 쉽게 적응할 수 있다.

식은 자연수처럼 더하고 빼고 곱하고 나누기가 가능하다. 12를 소수 2와 3의 곱(2×2×3) 으로 소인수분해할 수 있는 것처럼 복잡한 식도 간단한 식의 곱으로 나타낼수 있다. 단항식 5xy²를 떠올려 보자. 5xy² 인수를 구해보면 1, 5, x, y, xy, 5x, y², 5y, 5xy, 5y², xy², 5xy²과 같다.

이런 인수의 곱으로 식을 나타내는 방법을 인수분해라고 한다. 자연수를 소인수분해하는 방법은 유일하다. 식의 인수분해도 마찬가지다.

숫자가 커질수록 소인수분해가 어려운 것처럼 식이 복잡해질수록 인수분해도 하기 어려워진다. 5xy²+10x²y을 인수분해해 보자. 시작은 각 항의 공통 인수를 찾는 것이다. 10x²y의 인수와 5xy²의 인수를 비교해 보면, 공통인수 5xy를 찾을 수 있다. 5xy²+10x²y를 공통인수로 묶어내면 5xy×(y+2x) 같이 인수분해할 수 있다.

하지만 대부분의 식은 이처럼 단순하게 인수분해되지 않는다. x²+3x+2같은 식에선 인수가 한 눈에 보이지 않는다. 이때 필요한 것이 바로 인수분해 공식이다. 인수분해 공식은 구구단처럼 식을 곱하고 나누는 기본 틀이다. 다음은 대표적인 인수분해 공식들이다.

공식을 이용하면 x²+3x+2 같은 식도 쉽게 인수분해 할 수 있다.
x²+3x+2=x²+(2+1)x+2×1=(x+2)(x+1)
인수분해를 이용하면 방정식도 쉽게 풀린다.
x²+3x+2=0
(x+2)(x+1)=0
∴x = -2 혹은 -1
인수분해는 현대 대수학의 발전에 큰 도움을 줬고, 인터넷 프로토콜 같은 IT 기술에도 다양하게 응용되고 있다.

수학동아