양자세계의 해석 과학과 철학의 경계

인간은 감각 기관을 통해 외부 세상을 감지하고 그것을 바탕으로 외부 세계에 대한 생각을 만들어 간다. 인간의 감각 중에서 가장 많은 정보를 수집하여 전해주는 기관은 시각이다.이런 이유 때문에인간은 눈으로 본 것을 사실로 믿는 경향이 있다. 그래서 “백문(百聞)이 불여일견(不如一見)”이라는 말도 있는 것이다. 한 번 본 것이 백 번 들은 것보다 확실하다는 이야기이다. 법정에서 '내가 직접 보았다.'라는 증언이 가장 큰 증거 능력을 갖는 것도 이 때문일 것이다. 그렇다면 우리에게 참모습을 볼 수 있는 능력이 있는 것일까?

백문이 불여일견이라고? 자연의 참모습이 우리가 보아서 아는 것과 다르다면?

만약 자연의 참모습이 우리가 보아서 아는 것과 다르다면 어떻게 될까? 수학을 이용해 표현한 자연의 모습이 우리가 아는 상식이나 직관과 다르다면, 어떻게 그것을 설명할 수 있을까? 양자물리학은 우리가 평소에 경험할 수 없는 아주 작은 세계에서 일어나는 일들을 주로 다룬다. 과학자들은 이렇게 작은 세계에서는 우리가 경험을 통해 아는 일들과는 전혀 다른 일들이 일어난다는 사실을 알게 되었다. 그것은 우리의 상식이나 실 세계에서 보고 경험하여 알게 된 사실들이 작은 양자 세상에서 일어나는 일들을 설명하는데, 아무 도움이 되지 못한다는 것을 뜻한다.

주변의 원을 지우면, 가운데 있는 원의 크기가 같음을 알 수 있다. 과연 눈에 보이는 것이 진실일까? <출처: Fibonacci at en.wikipidea.com>

자연을 수학으로 기술한다, 그러면 그 수학을 어떻게 이해해야 할까?

양자물리학은 우리가 실 세계의 경험으로 이해할 수 없는 현상들을 다루기 위해 고안한 물리학이다. 물리학에서는 수학을 이용해 자연을 기술한다. 그것은 고전물리학에서나 양자물리학에서도 마찬가지이다. 그러나 고전물리학에서는 자연현상을 기술하는 수학 그 자체가 가진 의미가 명확했기 때문에, 별도의 해석이 필요하지 않았다. 그러나 양자물리학에서는 우리에게 익숙하지 않은 세상을 다루기 때문에, 수학 그 자체가 무엇을 뜻하는지를 설명하는 해석이 필요해졌다.

대부분의 물리학자가 받아들이는 양자물리학에 대한 해석은 보어를 주축으로 하는 과학자들이 제안한 코펜하겐 해석이다. 1930년부터 보어와 함께 일했으며 가장 강력한 코펜하겐 해석의 지지자로, 코펜하겐 그룹의 대변인이라는 칭호까지 들었던 로젠펠트(Leon Rosenfeld, 1904~1974)는 양자물리학에는 "코펜하겐 해석만 있을 뿐이다."라고 말하기도 했다. 그러나 양자 물리학에는 코펜하겐 해석 외에도 여러 가지 해석이 있다. 그 중, 중요한 것만 살펴보면 미국 프린스턴 대학의 교수였던 폰 노이만(John von Neumann, 1903-1957) 등이 제안한 ‘프린스턴 해석’, 코펜하겐 해석을 가장 적극적으로 반대했던 아인슈타인을 위시한 과학자들이 제안했던 ‘앙상블 해석’과 ‘숨은 변수 이론’, 에버렛 등이 제안한 ‘여러 세계 해석’, 머민(N. D. Mermin) 등이 제안한 ‘이타카 해석’ 등이 있다. 서울대학교 물리학과 교수였던 장회익 교수 등이 제안한 ‘서울 해석’도 있다. 이런 다양한 해석에 따라 양자물리학의 여러 가지 현상을 바라보는 시각이 달라진다. 당연히 우리가 오늘 이야기해야 할 슈뢰딩거 고양이에 대한 해석도 달라질 수밖에 없다. 그러면 이제 본격적인 슈뢰딩거의 고양이 이야기로 돌아가 보도록 하자.

코펜하겐 해석 – 여러 상태가 중첩되어 있다가 측정 순간에 하나로 확정된다

코펜하겐 해석에 의하면, 여러 가지 상태의 중첩으로 나타내는 체계는 측정이 시행되는 순간 하나의 상태로 확정된다. 다시 말해 상자가 닫혀 있을 때, 고양이의 상태는 죽은 고양이의 상태와 살아 있는 고양이 상태의 중첩으로 나타내지만, 상자를 열어 고양이의 상태를 확인하는 순간 두 가지 상태 중의 하나로 확정된다는 것이다. 만약 어떤 사람이 상자를 열어 고양이의 상태를 확인했다면, 고양이가 들어 있는 상자와 이 사람은 두 가지 다른 상태의 중첩이 아닌 특정한 상태에 있게 된다. 그러나 아직 그 사람의 측정결과를 알지 못하는 또 다른 관측자에게는, 아직 고양이는 중첩 상태에 있다. 이것은 고양이의 상태가 객관적 사실이 아니라, 관측자와 상호작용의 결과라는 것을 의미한다.

이러한 설명은 일상 경험을 통해서 알게 된 우리의 상식으로는 잘 이해할 수 없는 이야기이다. 실 세계에서 고양이는 우리가 관측하든 관측하지 않던, 죽어 있거나 살아 있어야 한다. 코펜하겐 해석을 반대하는 사람들은 ‘태양과 달이 관측할 때만 존재한다고 말하는 것이 과연 옳은가?’라고 반문했다. 관측은 단지 객관적인 사실을 확인할 뿐이라는 것이 우리가 가진 상식이다. 우리의 상식과 일치하지 않는 이런 해석을 받아들이지 않은여러 과학자들은 새로운 해석을 제안했다.

에버렛 해석 – 세상은 여럿으로 나뉘어있고, 측정은 그 중 하나를 선택하는 과정이다

1972년에 휴 에버렛(Hugh Everett III, 1930~1982)은 여러 세상 해석을 제안했다. 여러 세상 해석에서는 서로 다른 상태가 중첩해 있는 것이 아니라, 서로 다른 여러 세계가 존재한다고 주장한다. 따라서 측정하는 것은 여러 세계 중에서 하나의 세계를 선택하는 과정이라는 것이다. 여러 세계 해석에 의하면 상자 속의 고양이는 죽어 있는 고양이와 살아있는 고양이가 섞여 있는 중첩 상태가 아니라, 살아있는 고양이와 죽어 있는 고양이가 모두 존재한다. 관측자가 상자를 열어 고양이의 상태를 확인하는 순간, 우주는 살아있는 고양이를 포함한 우주와 죽어 있는 고양이를 포함한 두 개의 우주로 분리된다는 것이다.

어떤 색깔의 지구를 선택하시겠습니까? 에버렛이 주장한, 여러 세상 해석은 여러개의 우주가 동시에 존재하지만 <그 중 하나를 선택하면 다른 우주와 선택한 우주가 분리된다고 설명하고 있다.

살아 있는 고양이와 죽어 있는 고양이는 동시에 존재할 수 없다. 관측자가 고양이를 관측하는 순간, 관측자는 살아 있는 고양이와 함께 하나의 우주를 형성하거나, 죽어 있는 고양이와 함께 또 다른 우주를 형성한다. 두 우주 사이에는 아무런 상호작용이 있을 수 없다. 상식에 익숙해 있는 사람 중에 얼마나 많은 사람이 이런 설명에 동의할 수 있을까? 그러나 1997년 있었던 양자물리학 워크숍에 참석했던 물리학자들의 여론 조사에서 여러 세계 해석은 코펜하겐 해석 다음으로 많은 지지를 받았다.

앙상블 해석 – 같은 고양이가 수만 마리가 있으므로, 통계적으로 해석해야 한다

전체적으로 보라색으로 보이나, 중간에 다른색이 포함되어 있다. 이처럼 앙상블 해석은 집단의 특성을 통계적으로 설명할 수는 있었으나, 입자 하나의 상태를 수학적으로 정확하게 다루지는 못했다.

앙상블 해석에서는 양자 물리학의 확률의 문제를 통계적으로 해석한다. 다시 말해 상자 속의 고양이가 살아있을 확률이 50%이고 죽어 있을 확률이 50%라는 것은, 한 마리의 고양이가 죽은 상태와 살아 있는 상태가 중첩된 상태에 있다는 것이 아니라, 많은 고양이가 같은 상태에 있을 때 그 중의 반은 죽어 있고 반은 살아 있다는 것을 뜻한다는 것이다. 예를 들어 방사성 원소와 고양이가 든 상자가 1억 개 있을 때, 한 시간 후에 그 중의 5,000만 상자의 고양이는 살아 있고 나머지 5,000만 상자 속의 고양이는 죽어 있다고 통계적으로 해석한다.

앙상블 해석을 전자와 같은 작은 입자들에도 적용하면 이해하기 어려웠던 많은 문제가 쉽게 이해되는 듯 보인다. 앙상블 해석을 적용하면 확률함수는 전자가 다른 에너지를 가지는 여러 가지 상태로 중첩되어 있다는 것이 아니라, 수없이 많은 전자가 여러 가지 다른 상태에 있을 확률을 나타낸다고 설명할 수 있다. 비슷한 예로,광자가 두 개의 슬릿을 동시에 통과하는 것이 아니라 수많은 광자 중의 반(1/2)이 한 슬릿을 통과하고 다른 반(1/2)이 또 다른 슬릿을 통과한다고 설명할 수 있다.

아인슈타인은 앙상블이론을 발전시켜 숨은 변수이론을 제안했다. 양자 물리학에서 입자 하나하나가 어떤 상태에 있는지 알 수 없는 것은 입자의 상태를 결정하는 변수를 우리가 다 알지 못하기 때문이라는 것이다. 양자물리학이 확률을 포함하게 된 것은 입자 하나하나의 상태를 결정하는 숨은 변수를 알지 못하기 때문에, 이런 숨은 변수를 알게 된다면 양자물리학도 확률에 의해서가 아니라 결정론적으로 서술할 수 있다고 주장했다.

그러나 이러한 앙상블 해석을 받아들이면 양자물리학이 입자 하나의 물리적 상태를 수학적으로 기술할 수 없다는 것을 인정하지 않을 수 없게 된다. 따라서 코펜하겐 해석을 받아들인 과학자들은 양자물리학에는 파동함수이외에 다른 변수가 존재하지 않으며, 물리적 실재가 따로 존재하는 것이 아니라고 이들의 주장을 반박했다.

예측은 물리학자에게 해석은 철학자에게

양자물리학의 해석문제는 이제 과학의 영역을 벗어나 철학의 영역으로 넘어갔다.

과연 누구의 주장이 옳을까? 상자를 열기 전에 고양이는 과연 어떤 상태에 있을까? 이것보다 더 궁금한 것은 ‘많은 과학자가 상식적으로 이해할 수 없는 코펜하겐 해석을 받아들이게 된 이유는 무엇 때문일까?’라는 의문이다. 그 의문에 대한 해답은 보어가 과학자들을 설득한 방법에서 찾을수 있다.보어는 과학자들을 설득할 때,철학적 논쟁을 하지 않고,실험을 통해 보여줬다. 그는 실험 결과를 설명할 수 있고 새로운 실험 결과를 예측할 수 있으면, 그것이 옳은 이론이라고 주장했다. 실증주의에 영향을 받았던 보어는 과학이론은 실험할 때 어떤 결과가 나오는가를 설명할 수 있으면 충분하다고 생각했다. 그는 실험 사실을 설명하는 이상의 것은 과학이 아닌 형이상학-철학에 속한다고 말했다.

양자물리학은 전자와 같이 작은 세상에서 일어나는 일들을 설명하는 데 크게 성공했다. 많은 과학자는 현학적인양자물리학 해석의 논쟁에서 벗어나, 방정식을 풀고 그것을 확인하기 위한 실험을 했다. 그리고 이론이 실험 결과를 설명할 수 있으면, 아무 의문 없이 옳은 이론이라고 받아들였다. 그러면서 더는 물리학 강의 시간에 양자물리학 해석의 문제를 다루지 않게 되었다. 실용성을 강조하는 미국이 과학의 중심지로 떠오른 것도 이런 경향에 일조했다.

결국, 양자물리학 해석의 문제는 완전히 결론이 나지 않은 상태로 물리학 문제가 아닌 철학의 문제로 옮겨가게 되었다. 슈뢰딩거의 고양이는 아직도 상자 속에서 자신의 문제가 철학적으로도 완전히 해결되기만을 기다리고 있다.

• 네이버캐스트