양자카오스 양자역학에 나비효과는 없다

꿈 속의 꿈 속의 꿈 속의 꿈. 영화 ‘인셉션’에서는 여러 단계로 들어가도 꿈 속 세상이 현실과 거의 같다. 이와 비슷한 세계가 우리 주변에 있다. 바로 프랙탈 구조로, 해안선이나 브로콜리처럼 아무리 확대해도 전체 모양이 반복된다. 그런데 실제로 존재하는 자연현상인 프랙탈이 양자역학으로는 설명이 되지 않는 바람에 물리학자들이 ‘카오스’에 빠졌다.

“뉴턴이 우주의 법칙을 밝혔지만, 아침에 우산을 가져갈지 결정하기는 쉽지 않았을 겁니다.”

비평형계에 대한 연구로 노벨화학상을 받은 벨기에 물리화학자 일리야 프리고진은 이렇게 강연을 시작하고는 했다. 뉴턴의 운동방정식을 이용하면 고전역학 세상에 있는 모든 것의 미래를 알 수 있다. 하지만 올 크리스마스에 눈이 내릴지는 고사하고, 여름 태풍이 언제 어디를 지날지조차 알 수 없다. 카오스 때문이다.

양자역학 이야기를 하다가 웬 카오스냐고? 양자역학은 원자와 전자 같은 미시세계를 설명하는 이론이지만, 거시세계에도 적용이 된다. 아니, 돼야만 한다. 왜냐하면 물리학에서는 새로운 이론이 인정받으려면 이전의 이론을 포함해야 하기 때문이다.

양자역학에서는 위치와 운동량을 동시에 알 수 없고, 확률만 알 수 있다. 게다가 한 물체가 동시에 여러가지 상태일 수 있다. 이런 양자역학이 고전역학과 매끄럽게 연결될까. 양자역학 창시자들의 대답은 “물론!”이었다. 양자역학이 거시세계에서는 고전역학으로 환원되는 것을 대응원리라고 한다. 대응원리에 따르면 고전역학의 모든 것을 양자역학으로 설명할 수 있어야 한다. 하지만 카오스는 고전역학에만 존재하고 양자역학에는 없는 것처럼 보였다.


● 양자역학도 나비효과는 너무 어려워

istockphoto 제공 

 

카오스의 핵심 원리가 알려진 것은 1960~70년대다. 양자역학이 확립된 지 40여 년이나 지난 후였다. 대응원리가 옳다면 양자역학에서도 카오스를 볼 수 있어야 한다. 카오스라는 새로운 현상이 발견된 직후, 당연히 물리학자들은 ‘양자카오스’를 생각했다.

카오스는 일반대중에게 나비효과로 널리 알려져 있다. 북경에서 나비가 날개를 펄럭이는 것 때문에 뉴욕에 허리케인이 올 수도 있다는 얘기다. 그렇다고 북경의 나비를 다 잡아버릴 생각은 마시길. 이번엔 파리의 날갯짓 때문에 허리케인이 생길 수도 있다! 어쨌든 카오스는 초기조건에 민감한 계(시스템)인데 이는 두 가지 원인이 있다. 비선형성과 프랙탈 구조다.

비선형성은 문자 그대로 선형이 아니라는 말이다. 선형은 크기를 2배로 했을 때 효과가 2배로 되는 것이다. 대표적인 예가 용수철이다. 용수철은 늘어난 길이에 비례해서 복원력이 커진다. 하지만 용수철을 심하게 잡아당기면 결국 변형돼서 복원력의 일부를 잃는다. 엄밀히 따지면 용수철도 비선형이라는 뜻이다. 이런 면에서 사실 대부분의 자연 현상이 비선형적이다. 그런데 양자역학은 철저하게 선형적이어서 비선형적인 카오스를 설명할 수 없다(INSIDE 참조).

[INSIDE] 양자역학의 선형성 양자역학에 비선형성은 없다. 양자역학을 기술하는 슈뢰딩거방정식은 선형미분방정식이라서 행렬식으로 표현할 수 있다(선형계를 다루는 수학은 행렬로 기술된다). 하이젠베르크가 발견한 행렬역학도 선형적이다. 전자가 두 개의 구멍을 동시에 지날 수 있는 것도 수학적으로는 두 경로의 선형중첩으로 기술되기 때문이다. 만약 양자역학에 조금이라도 비선형성이 있다면, 중첩상태에서 하나의 상태로 귀결되는 일이 저절로 일어날 수 있다. 그렇다면 측정을 통해서만 상태가 결정되는 기괴한 가정(양자측정문제)이 필요 없을 수도 있다. 노벨물리학상 수상자인 와인버그는 1989년 ‘피지컬리뷰레터’에 슈뢰딩거방정식에 아주 작은 크기의 비선형 항이 존재할 가능성에 대한 논문을 게재한다. 이 항이 너무 작아서 아직 실험적으로 발견하지 못했을 수도 있다는 것이다. 이런 비선형항이 있다면 그 지긋지긋한 양자측정 문제가 해결될지도 모른다. 이에 대해 페레스라는 물리학자는 재미있는 반론을 제기했다. 만약 양자역학이 비선형이라면 열역학 제2법칙이 깨진다는 것을 보일 수 있다는 것이다. 더구나 양자역학에 비선형성이 있다면 빛보다 빠른 통신도 가능하다는 이론도 있다(모순이라는 뜻이다). 아무튼 양자역학에 비선형성은 없다는 것이 현재 다수 물리학자의 의견이다.

과학동아(일러스트 김정훈) 제공  제공

● 과연 양자세계에 프랙탈은 있는가

카오스의 프랙탈 구조도 양자역학에 큰 장애물이다. 카오스를 보이는 계는 운동 양상을 위치와 운동량으로 나타냈을 때 프랙탈 형태의 궤적을 이룬다. 프랙탈이란 무한히 확대해도 자신의 모습이 반복되는 기하학적 구조다. 따라서 카오스의 동역학적 궤적은 아무리 자세히 보아도, 같은 패턴이 반복되면서 그 구조를 자세히 알기 힘들 정도로 복잡하다.

거듭 말하지만 양자역학에서는 위치와 운동량을 동시에 아는 것 자체가 불가능하다. 하이젠베르크의 불확정성원리 때문이다. 불확정성원리에 따르면 위치와 운동량의 부정확도의 곱이 플랑크상수(h)보다 커야 한다. 양자역학에서는 플랑크상수의 크기까지만 확대하는 것이 가능하다는 얘기다. 그런데 프랙탈은 무한히 확대될 수 있다는 것을 전제하므로 양자역학에 프랙탈이 설 자리는 없다.

자연 속의 프랙탈. 계속 확대해도 전체 모양이 반복된다. - istockphoto 제공

종합하면 양자역학에는 비선형성도 없고 프랙탈 구조도 없다. 결국 양자역학에는 원리적으로 카오스가 존재할 수 없다. 대응원리가 틀린 것일까. 아니면 카오스가 실제로는 존재하지 않는 신기루일까.

만약 플랑크상수가 0이라면 위치와 운동량에 부정확함이 전혀 없으니 고전역학과 다를 바 없다. 따라서 플랑크상수를 0으로 점차 줄여가면 양자역학에서 고전역학으로 접근해 가는 것이라고 생각할 수 있다. 실제로 플랑크상수가 작아질수록 양자계가 카오스와 비슷한 행동을 한다. 하지만 플랑크상수가 0이 아닌 이상 프랙탈이 될 수 없으므로 완벽한 카오스는 아니다. 이런 관점에서 본다면 카오스는 실제 존재하지 않는다고 할 수 있다.

하지만 어떤 물리학자들은 플랑크상수가 0으로 접근하는 것만으로 고전역학에 도달할 수 없다고 주장한다. 결어긋남과 같은 양자측정이 있어야 고전역학으로 환원된다는 것이다. 그렇다면 대응원리가 맞는지 다시 생각해봐야 한다. 뭐가 뭔지 모르겠다고?

결론을 이야기하자면 양자카오스에 대해 모두가 동의하는 답은 아직 없다.


● 양자역학도 아니고 고전역학도 아닌 세상

카오스가 정말 존재하느냐의 논쟁이 다소 철학적으로 보일 수 있겠다. 하지만 이것은 실제적으로도 중요한 문제다. 미시세계는 양자역학, 거시세계는 고전역학으로 기술된다고 했다. 그 중간은 어떻게 해야 할까. 크기로 이야기하면 원자 천 개에서 만 개의 크기에 해당하는 영역이다. 이를 중시계(mesoscopic system)라고 부른다. 중시계는 양자역학으로 다루기에는 너무 크고 고전역학으로 다루기에는 너무 작다. 아이도 어른도 아닌 청소년이라고나 할까.

요즘은 나노계가 대세지만, 나노계를 마음대로 다룰수 없었던 1980~90년대는 중시계가 양자물리학의 가장 중요한 주제였다. 고전역학에서 카오스는 흔한 현상이지만, 양자역학에는 카오스가 없다. 중시계는 양자역학과 고전역학 모두를 고려해야 하는 영역이기에 카오스는 피할 수 없는 문제였다.

고전역학으로 생각하면 도체 내의 자유전자는 여러 다른 입자들과 부딪히며 카오스적으로 운동한다.

마치 물에 떨어진 잉크방울의 확산운동과 비슷하다. 하지만 양자역학에는 카오스가 없어서 전자가 확산하지 못하고 공간적으로 묶여버릴 수도 있다. 이 경우 도체가 부도체로 바뀐다. 이를 앤더슨 국소화(局所化)라고 하는데, 이 이론으로 필립 앤더슨은 1977년 노벨물리학상을 수상했다.

중시계는 최첨단 전자산업에서도 중요하다. 고체의 크기가 작아지면서 새로이 나타나는 효과를 양자역학으로 설명할 수 있다. 예를 들어 도체의 크기가 아주 작아지면 옴의 법칙(V=IR)이 성립하지 않는다. 전압에 따라 전류가 불연속적으로 변하기 때문이다(불연속은 양자역학의 트레이드마크다!). 또 강한 자기장에 놓인 전자의 전기전도도는 외부 자기장의 크기에 따라 역시 불연속적으로 변한다. 강한 자기장과 전자가 결합하여 새로운 상태가 형성되기 때문이다. 이를 양자홀 효과라고 한다. 1985년 폰 클리칭, 1998년 로버트 러플린 등이 이 연구로 노벨 물리학상을 받았다(러플린은 2004년부터 2년간 카이스트의 총장을 맡았다). 이렇듯 물리학계는 중시계 연구를 통해 양자역학과 고전역학의 경계를 설명하는 올바른 답을 아직 찾는 중이다.


● 미래를 예측할 수 없는 법칙

법칙이 있다고 해서 미래를 항상 예측할 수 있는 건 아니다. 올 여름 태풍이 언제 올지 알려면 나비 한 마리의 움직임까지 조사해야 하니 말이다. 하지만 이것은 원리적으로 예측 못하는 것이 아니라 너무 힘들어서 못하는 것이다. 만약 당신이 나비는 물론 파리, 모기, 아니 세상에 존재하는 모든 곤충, 더 나아가 세상의 모든 입자의 운동을 다 조사한다면 예측 가능할지도 모른다.

그렇다고 지금부터 곤충의 운동을 조사하러 다닐 생각은 추호도 하지 말라. 어차피 양자역학에는 보다 본질적인 불확실성이 있다. 확률 밖에 알 수 없다는 점이다. 우주의 불확실성은 고전역학, 양자역학 모두에 내재해 있는 셈이다. 신은 자연에 법칙을 주었지만, 어쩐일인지 예측할 수 없도록 만들어 놓았다고 할까.

 동아사이언스