닐스 보어는 어떻게 양자역학의 전설이 되었나

나는 좀머펠트에게서 낙관주의를, 괴팅겐 사람들에게서는 수학을, 보어에게서는 물리학을 배웠다.
- 베르너 하이젠베르크

올해는 제임스 왓슨과 프랜시스 크릭이 DNA이중나선을 발견한지 60년이 되는 해다. 그런데 DNA 구조를 제안한 1953년 논문을 읽어보면 좀 당황스럽다. 불과 1000여 단어로 된 짧은 논문은 앞에 살짝 “이 구조가 지닌 새로운 특징은 생물학적으로 상당히 흥미롭다”라는 언급이 나올 뿐 대부분은 DNA, 즉 핵산의 화학에 대한 설명이다. 논문에 데이터는 전혀 없으며 DNA이중나선 구조를 묘사한 간단한 그림 모형이 전부다.

DNA구조에 대한 실험 데이터(X선 회절 사진)는 이어지는 모리스 윌킨스와 로절린드 프랭클린의 논문 두 편(각자 따로 논문을 썼다)에 나온다. 왓슨의 회고록 ‘이중나선’에 나와 있듯이 이들의 모형은 윌킨스가 왓슨에게 몰래 보여준 프랭클린의 X선 사진에서 큰 영감을 얻었다. 이와 함께 결정적인 역할을 한 것이 DNA의 염기조성을 분석한 오스트리아 출신 생화학자 에르빈 샤가프의 1950년 논문이다. 즉 여러 시료에서 DNA를 이루는 네 염기 아데닌(A), 구아닌(G), 티민(T), 시토신(C)의 비율을 분석해봤더니 아데닌과 티민이 1:1, 구아닌과 시토닌이 1:1로 존재하고 있더라는 것.

당시 샤가프는 이게 무얼 의미하는지 몰랐지만 왓슨과 크릭은 프랭클린의 데이터에서 DNA가 이중나선일 거라는 확신을 얻자 샤가프 논문에서 두 쌍의 1:1이 뜻하는 바를 순간 깨달으면서 아데닌과 티민, 구아닌과 시토신이 짝을 이루는 DNA이중나선 구조가 생물학적으로 필연임을 확신했다. 지금 생각하면 샤가프가 다 잡은 고치를 놓친 것처럼 보이지만, 설사 시간이 더 있었더라도 그가 자신의 데이터만으로 DNA이중나선을 떠올릴 수는 없었을 것이다.

1922년 노벨물리학상을 받을 무렵인 37세 때 닐스 보어. - (주)동아사이언스 제공

비슷한 상황이 양자역학의 초창기에서도 일어났다. 꼭 100년 전인 1913년 7월, 28세인 덴마크의 이론물리학자 닐스 보어는 영국에서 발행되는 학술지 ‘철학매거진(Philosophical Magazine)’에 ‘원자와 분자의 구조에 대하여(1부)’라는 제목의 논문을 실었다. 뒤 이어 그해 9월과 11월에 각각 실린 2부와 3부까지 합쳐 전부 70여 쪽에 이르는 방대한 논문에서 보어는 당시까지 알려진 실험데이터와 이론을 놀라운 통찰력으로 짜 맞춰 오늘날 우리가 물리학 교과서에서도 볼 수 있는 ‘보어의 원자 모형’을 제안했다.

이 가운데 수소원자 모형을 제시한 1부가 기념비적인 논문이다. 학술지 ‘네이처’는 6월 6일자에 논문출간 100주년을 맞아 ‘양자 원자’라는 제목으로 특집을 꾸몄고 여기에 과학사가인 미국 버클리 캘리포니아대 존 헤일브론의 글이 포함됐다. 또 학술지 ‘사이언스’ 온라인판 6월 20일자에도 영국 옥스퍼드대 물리화학자 데이비드 클러리 교수의 글이 실렸다. 이들 글과 보어의 1913년 논문, 기타 자료를 토대로 닐스 보어의 삶과 업적을 돌아본다.

●수소원자 스펙트럼, 예측은 하지만 의미는 몰라

보어 모형은 원자에서 관찰되는 스펙트럼을 해석하려는 과정에서 탄생했다. 원자에서는 연속적인 파장의 빛이 아닌 특정한 파장의 빛만 나오는데 보어는 이를 전자의 움직임과 연관시켜 설명할 수 있음을 깨달았다. 즉 전자는 연속적인 값이 아니라 불연속적, 즉 양자화된 특정한 에너지 상태로만 존재할 수 있고 한 상태에서 다른 상태로 넘어갈 때 해당하는 에너지 차이만큼의 빛(광자)을 내보내거나 흡수한다는 것.

수소원자의 방출선스펙트럼은 전자가 궤도를 뛰어넘을 때 나오는 빛이다. 가장 안정한 첫 번째 궤도로 옮길 때 나오는 스펙트럼이 리먼 계열, 두 번째 궤도로 옮길 때가 발머 계열, 세 번째 궤도로 옮길 때가 파셴 계열이다. 1913년 7월 발표한 보어의 수소원자모형은 방출선스펙트럼을 명쾌히 설명했다. - 위키피디아 제공

보어의 수소원자 모형은 마치 태양을 둘러싼 행성의 궤도를 그려놓은 것 같은데, 태양 자리에 원자핵(양성자)이 있고 전자는 여러 궤도 가운데 한 곳에 있다. 전자는 궤도가 아닌 공간에서는 존재할 수 없다. 각 궤도는 특정 에너지 상태를 뜻하므로 전자의 에너지는 양자화돼 있다. 전자는 궤도 사이를 폴짝폴짝 뛰어다니는데 이때 에너지차이만큼 흡수하거나 내놓는 광자가 스펙트럼으로 모습을 드러낸다는 것이다. 양자역학적 사고에 익숙한 지금 관점에서야 실감하기 어렵겠지만 당시로서는 놀라운 상상력의 도약이었다.

보어가 모형을 만드는데 결정적인 기여를 한 스펙트럼 데이터는 발머 계열(Balmer series), 리먼 계열(Lyman series), 파셴 계열(Paschen series)로 불리는 수소원자 방출스펙트럼이다. 1825년생인 스위스의 수학자이자 물리학자인 요한 야콥 발머는 1885년 에두아르트 하겐바흐라는 동료 물리학자로부터 수소 원자에서 얻은 스펙트럼을 해석해달라는 부탁을 받는다. 발머는 스펙트럼의 선 네 개의 파장(각각 656nm(나노미터, 빨강), 486nm(청록), 434nm(파랑), 410nm(보라))을 갖고 이리저리 맞춰보다 이를 예측할 수 있는 아래 수식을 만들어냈다.

λ=Hm²/(m²-n²), n=2, m>n, 비례상수 H=3.6456×10-7m.

즉 656nm는 m이 3일 때, 486nm는 4일 때, 434nm는 5일 때, 410nm는 6일 때다. 하지만 발머는 수소원자에서 도대체 어떻게 이런 스펙트럼 패턴이 나오는지는 전혀 알 수 없었다. 아무튼 평생 이렇다 할 업적을 내지 못한 수학자 발머는 이 수식을 생각해낸 덕분에 ‘발머 계열’이라는 용어에 자신의 이름을 남겼다.

수소원자의 방출선스펙트럼 가운데 발머 계열. 가시광선 영역이기 때문에 가장 먼저 발견됐다. 오른쪽부터 각각 파장 656nm(나노미터, 빨강), 486nm(청록), 434nm(파랑), 410nm(보라)에 해당한다. - 위키피디아 제공

한편 원자의 스펙트럼을 해석하는데 골몰하고 있던 스웨덴의 물리학자 요하네스 뤼드베리는 발머의 수식을 보고 1888년 이를 파장의 역수(1/λ)인 파수(wavenumber)로 표현했다. 파수에 광속(c)을 곱하면 빛의 진동수(ν)다. 뤼드베리 역시 스펙트럼의 근원을 이해하지는 못했지만 파장 대신 파수(진동수)로 표현한 것은 훗날 중요한 의미를 갖게 된다. 진동수에 플랑크상수(h)를 곱하면 에너지(hν, ‘하뉘’로 발음)가 되기 때문이다.

ν=R(1/n₁²-1/n₂²), n₁ < n₂, 발머 계열의 경우 n₁=2, R은 진동수 뤼드베리 상수.

●러더퍼드 모형에 플랑크 양자이론 접목

1885년 덴마크 코펜하겐에서 코펜하겐대 생리학과 크리스티안 보어 교수의 둘째로 태어난 닐스 보어는 1903년 코펜하겐대에 입학해 본격적으로 물리학을 공부했다. 보어는 워낙 뛰어나서 덴마크에서는 그의 박사학위 논문 주제인 금속의 전자 이론을 제대로 이해할 만한 사람이 없을 정도였다고 한다. 1911년 당시 물리학을 이끌고 있던 영국 케임브리지로 건너간 보어는 이곳에서 전자를 발견한 위대한 물리학자 J. J. 톰슨 주위를 어슬렁거렸지만 이렇다 할 결과를 내지는 못했다.

이듬해 보어는 당시 떠오르는 스타인 어니스트 러더퍼드가 있는 맨체스터의 빅토리아대학으로 옮겼는데 당시 러더퍼드는 한 해 전에 제안한 원자모형에 의미를 부여하는 연구를 진행하고 있었다. 사실 원자모형은 1903년 톰슨이 먼저 발표했는데, 이에 따르면 원자는 양이온이 퍼져 있는 공간을 음이온인 작은 전자가 분주하게 돌아다니는 모습으로 그려졌다. 소위 ‘건포도푸딩(plum pudding)’으로 불리는 모형이다. 물론 전자가 건포도다.

케임브리지에서 톰슨 밑에 있던 러더퍼드는 빅토리아대로 자리를 옮겨 이런 저런 실험을 했는데 그 가운데 하나가 방사성 원소인 라듐에서 나오는 알파선(헬륨이온)을 금박에 투과시키는 실험이었다. 알파선 대다수는 금박을 통과했지만 드물게 90도 이상, 심지어는 거의 180도로 산란되는 게 검출됐다. 이 데이터를 고민하던 러더퍼드는 원자의 양전하가 푸딩처럼 퍼져있는 게 아니라 원자 가운데 작은 공간에 모여 있다는, 즉 원자핵을 이루고 있다는 원자모형을 1911년 제안했다. 

러더퍼드의 실험실에서 흥미로운 나날을 보내고 있던 보어에게 어느 날 한 동료가 찾아와 발머가 만든 식에 대해 설명을 해 줄 것을 부탁한다. 처음 스펙트럼을 봤을 때 원자모형으로 설명하기에는 너무 복잡한 패턴이라고 느꼈지만 존 니콜슨이라는 물리학자의 논문을 보다가 문득 막스 플랑크의 에너지 양자 개념을 적용하면 어떨까 하는 생각이 떠오른다.

즉 원자핵 주위를 돌고 있는 전자는 불연속적인, 즉 양자화된 에너지를 갖고 있고 다른 에너지 상태로 옮겨갈 때 에너지 차이만큼의 광자(빛)을 내놓거나 흡수한다고 가정했다. 이에 따르면 발머 계열은 전자가 두 번째로 안정한 궤도로 떨어질 때 방출하는 광자들이라고 해석할 수 있다.

보어는 뤼드베리의 식에 플랑크상수 h를 곱해주면 전자의 두 궤도 사이의 에너지(hν)가 되며 해당하는 진동수(ν)의 빛이라고 해석했다. 그리고 여러 수식을 조합해 비례상수인 뤼드베리 상수가 2π²me⁴/h³(m은 전자의 질량, e는 전자의 전하)에 해당한다는 사실을 발견했다. 이는 놀라운 발견으로 뤼드베리 상수가 서로 비례관계인 양변을 등가로 해주기 위해 부여한 단순한 비례상수가 아니라 물리적인 필연성을 띠는 값임을 뜻하기 때문이다. 이에 대해 아인슈타인은 “정말 주목할 만한 사실”이라고 언급했다.

한편 독일의 물리학자 프리드리히 파셴은 수소원자의 스펙트럼을 조사하다 적외선 영역에서 일련의 선들을 발견해 1908년 보고했는데(파셴 계열), 보어는 논문에서 이를 전자가 세 번째로 안정한 궤도로 떨어질 때 방출하는 광자들이라고 설명했다. 그러면서 “n₁(원문에서는 τ2라는 다른 표기법을 썼다)=1인 자외선 영역 계열과 n₁=4, 5,…인 원적외선 영역 계열도 존재할 것이다”라고 예상했다. 실제로 얼마 뒤 미국 물리학자 테오도르 리먼은 자외선 영역에서 수소원자방출스펙트럼을 발견했다(리먼 계열).

●멘토로서도 탁월

덴마크 코펜하겐에 있는 닐스보어연구소 전경. 1920년 세워진 물리학연구소를 1965년 보어 탄생 80주년을 맞아 개명했다. - 위키피디아 제공

불과 28세에 결정적인 업적을 낸 보어는 1916년 코펜하겐대 이론물리학 교수가 됐고 1920년 ‘물리학연구소’를 만든 뒤 소장으로 취임했다. 보어의 등장으로 물리학의 변방이었던 덴마크가 점차 물리학의 중심지가 됐고 훗날 ‘코펜하겐 학파’로 불리게 된다. 세계 각지의 재능이 뛰어난 신참 물리학자들은 보어의 물리학연구소를 방문해 체류하는 게 통과의례처럼 됐다. 1922년 보어는 원자구조와 스펙트럼을 해석한 공로로 노벨물리학상을 받았다.

보어는 천재로서는 드물게 다른 천재들을 보살피고 그들이 재능을 발휘할 수 있는 환경을 만드는데도 탁월했다. 대표적인 인물이 1901년 생으로 16년 연하인 베르너 하이젠베르크로 1924년부터 수차례 코펜하겐의 물리학연구소에 머물며 보어와 수시로 토론을 하면서 놀라운 업적을 세웠다. 즉 현대 양자역학의 토대가 된 1925년 행렬역학의 발견과 1927년 불확정성 원리 발견은 모두 물리학연구소에 있을 때 이룬 일들이다. 한편 1926년 오스트리아의 에르빈 슈뢰딩거가 파동역학을 개발했는데 얼마 안 있어 하이젠베르크의 행렬역학과 같은 내용이라는 게 증명됐다. 아무튼 이들 식으로 보어의 원자모형은 폐기됐지만 보어는 이에 아랑곳하지 않고 이들의 결과를 홍보하는데 열심이었다.

한편 1927년 보어는 ‘상보성의 원리’를 제안한다. 이는 빛이나 물질의 파동성과 입자성이 동시에 존재할 수 없다는 것과 위치와 운동량을 동시에 정확히 알 수 없다는 불확정성의 원리의 바탕이 되는 철학이라고 볼 수 있다. ‘코펜하겐 해석’이라고 불리는 보어와 하이젠베르크의 양자역학 해석에 대해 양자론의 창시자인 막스 플랑크를 비롯해 광전효과를 발견해 큰 기여를 한 아인슈타인, 심지어 파동역학을 발견한 슈뢰딩거조차 강력히 반발했고 끝까지 받아들이지 않았다.

물리학자 파울 에른페스트가 자택에서 찍은 1925년 보어와 아인슈타인의 모습. 둘은 양자역학 해석을 둘러싸고 끊임없이 대립했지만 후배 물리학자들은 일방적으로 보어를 지지했다. - (주)동아사이언스 제공

특히 아인슈타인과 보어는 만나기만하면 양자역학의 해석을 두고 논쟁을 벌인 것으로 유명하다. 보어보다 6살 연상인 아인슈타인은 물리학계의 거성일 뿐 아니라 대중적으로도 보어와는 비교도 할 수 없는 스타였지만 하이젠베르크나 파울리 같은 다음 세대 물리학자들이 둘의 논쟁에서 일방적으로 보어를 지지했음은 말할 필요도 없다(슈뢰딩거는 보어보다 불과 2살 아래로 그가 파동역학을 발견했을 때 이미 39세였다!)

20세기 들어 물리학의 축은 영국에서 독일어권으로 넘어가고 있었는데 1930년대 나치가 집권하면서 유태계 물리학자들의 대탈출이 시작됐다. 그러면서 보어의 물리학연구소에 인재들이 몰려들었지만 1940년 덴마크가 독일의 수중에 떨어지자 보어조차 위험을 느껴 1943년 스웨덴으로 탈출했다. 그 뒤 보어는 영국으로 건너갔다.

제2차세계대전이 끝난 뒤 덴마크로 복귀한 보어는 무너진 유럽의 물리학을 재건하는데 열심이었고, 미국으로의 두뇌유출을 막기 위해 1952년 유럽입자물리학연구소(CERN)를 세우는 데도 중요한 역할을 했다. CERN의 이론그룹은 1957년까지 코펜하겐에 있었다. 보어는 77세인 1962년 11월 18일 자택에서 심장질환으로 사망했다. 1965년 10월 7일, 보어 탄생 80주년을 맞아 물리학연구소는 ‘닐스보어연구소’로 이름을 바꿨다.

하이젠베르크(왼쪽)와 보어. 두 천재가 주도한 1927년 ‘코펜하겐 해석’은 양자역학의 주류가 됐다. - 브라이언 드러커  제공

다음은 20세기 가장 위대한 물리학자로 꼽히는(나치에 협력한 치명적인 오점은 있지만) 하이젠베르크가 보어에게 보낸 한 편지에서 발췌한 부분이다.

“제가 물리학에 대해 작으나마 기여할 수 있었던 것도 대부분은 제가 코펜하겐의 분위기 속에서 자라났고 그 속에서 선생님이 저를 인도해준 덕분이라는 것을 알고 있습니다. (중략) 저는 선생님이 베풀어준 후의에 대해서 제가 실제로는 선생님께 아무것도 드릴 게 없다는 것 때문에 종종 부끄러워질 때가 있습니다. 왜냐하면 저는 항상 선생님에게서 배우고 있고, 학문적이거나 철학적인 어려움을 풀기 위해서 선생님의 힘에 의존하기 때문입니다.”

동아사이언스