양자역학 문제, 게임으로 푼다

양자이론을 접하고 당혹해하지 않는 사람은 양자이론을 제대로 이해하지 못한 것이다.
- 닐스 보어

이것은 소리없는 아우성.
저 푸른 해원을 향하여 흔드는
영원한 노스탤지어의 손수건.

유치환의 시 ‘깃발’에 나오는 ‘소리없는 아우성’은 시적 상상력이 없는 사람들에게는 말이 안 되는 표현이다. 아우성의 사전적 정의가 ‘여럿이 악을 써 지르는 소리’이기 때문이다. 이런 표현을 ‘모순 어법’이라고 부른다. 두 볼에 흐르는 빛이/정작으로 고와서 서러워라/(조지훈, ‘승무’). 움직여라/떠나라/멈추지 말아라, 고정불변의 변화여/(송찬호, ‘공중정원∙2’). 다들 모순 어법을 쓰고 있다(이상은 오규원 시인의 ‘현대시작법’에 나오는 내용이다).

연초 학술지 ‘네이처’에 실린 한 사설을 읽다가 시에서나 나오는 줄 알았던 모순 어법을 쓴 표현을 보고 고개를 갸웃한 기억이 난다. 바로 ‘디지털 직관(digital intuition)’이라는 말로 디지털, 즉 컴퓨터 프로그램이 사람처럼 직관의 능력을 갖고 있음을 강조하는 표현이다. 인간과 컴퓨터의 차이점 가운데 하나가 직관, 즉 ‘복잡한 사유(계산)를 거치지 않고 대상을 직접적으로 파악하는 작용’의 유무라고 알고 있던 필자로서는 좀 과장이다 싶었다.

‘네이처’가 이런 모순 어법을 쓰면서까지 극찬한 컴퓨터 프로그램은 바로 알파고다. 바둑 프로그램으로서는 처음으로 프로바둑선수를 눌렀다는 내용과 함께 그 작동원리를 소개한 논문이 같은 호에 실렸다. 알파고의 상대가 무늬만 프로인 유럽챔피언 판후이 2단이었기 때문에 디지털 직관이란 표현이 화려한 수사라고만 여겼다. 그러나 두 달 뒤 벌어진 이세돌 9단과의 5번기를 지켜보면서 알파고의 직관에 대한 생각은 경외심으로 바뀌었다.

광학격자를 보여주는 도식적인 표현. 달걀판이 연상되는 광학격자 안에 원자가 갖혀있다. 최근 광학격자를 이용한 양자컴퓨터 개발이 한창이다. - 네이처 제공

● 양자역학이라는 반직관의 세계

그런데 최근 모순 어법을 쓰지는 않았지만 알파고 쇼크만큼이나 당황스러운 연구결과를 접했다. 과학분야 가운데 가장 반직관적(counterintuitive)이라는 양자역학 연구에 인간의 직관, 심지어 양자역학을 전혀 모르는 사람들의 직관도 큰 도움이 됐다는 내용이다. 대학 때 양자역학 수업을 들어 그 반직관성이 무슨 의미인지 대충 알고 있는 필자로서는 도무지 그림이 그려지지 않는 ‘모순 상황’이다.

글 앞에 인용한, 양자역학의 개척자 가운데 한 사람인 닐스 보어의 말처럼 양자역학은 상식의 눈으로는 받아들이기 어려운 세계다. 빛을 파동으로 볼 수도 있고 입자로도 볼 수 있다는 주장에서부터 입자가 자신이 갖고 있는 에너지보다 큰 에너지 장벽을 넘을 수도 있고(터널링 효과) 동시에 여러 곳에 ‘확률적으로’ 존재할 수도 있다. 한편 ‘얽힘’이라는 상태로 동기화된 두 입자는 우주 양 끝에 존재하더라도 서로 동시에 상대의 상태변화에 영향을 주고받는다. 즉 빛의 속도를 가볍게 뛰어넘는다.

이런 양자역학에 대해 아인슈타인이 “신은 주사위 놀이를 하지 않는다”며 강한 거부감을 표시한 건 잘 알려진 얘기지만, 사실 파동방정식을 고안해 양자역학의 정립에 큰 기여를 한 에르빈 슈뢰딩거조차 자신의 식을 확률론적으로 해석하는데(파동 진폭의 제곱이 그 위치에서 입자가 발견될 확률이라는) 반대했다.

그럼에도 오늘날 양자역학이 살아남은 정도가 아니라 물리학의 주류가 된 것은 반직관적으로 보이는 수식이 내놓는 예측이 실험 결과를 너무나 잘 설명하기 때문이다. 즉 고전물리학이 아무리 직관적이라도(물론 이를 이해하는 사람들에게) 수소원자의 스펙트럼을 전혀 설명하지 못하는 반면 양자역학은 말이 안 되는 것 같은 이상한 전제조건을 달긴 하지만 아무튼 스펙트럼 패턴을 깨끗하게 설명할 수 있기 때문이다. 

덴마크 오르후스대 물리학자들은 광학집게로 원자를 옮기는 과정을 게임(퀀텀무브스)으로 변형시켜 사람들이 최선의 해법을 찾게 유도했다. - Scienceathome.org 제공

● 컴퓨터 계산으로는 한계

최근 물리학자들은 한 걸음 더 나아가 양자역학의 원리로 작동하는 양자컴퓨터를 개발하는 연구를 진행하고 있다. 기존 디지털컴퓨터가 ‘0 또는 1’이라는 비트에 기초한다면 양자컴퓨터는 ‘0 그리고 1’이라는 큐빗에 기초한다. 양자컴퓨터에서는 한 입자가 큐빗 단위가 되고 여러 입자가 상호작용하면서 동시에 수많은 계산을 수행해 결과를 내놓는다. 수많은 가능성가운데 최선의 해법을 찾는 ‘최적화 문제’ 등 특정 과제의 경우 양자컴퓨터가 훨씬 더 뛰어난 것으로 알려져 있다.

덴마크 오르후스대 물리천문학과 야콥 셰르슨 교수팀은 광학격자(optical lattice)에 원자들을 가둬둔 뒤 광학집게(optical tweezer)로 원자들을 조작해 양자계산을 하는 양자컴퓨터를 개발하고 있다. 여기서 격자나 집게는 실제 물질로 된 게 아니라 레이저로 만들어낸 ‘빛의 격자’다. 달걀판에 달걀이 들어있는 모습을 떠올리면 된다. 즉 극저온에서 안정한 상태에 있는 개별 원자에 레이저를 쏴 3차원 공간에서 특정한 위치에 머무르게 조작한 것이다. 이 원자들은 마치 물건을 집게로 집어 옮기듯이 레이저를 쏴 원자를 원하는 위치로 움직일 수 있기 때문에 광학집게라는 표현을 쓴다. 연구팀은 루비듐(Rb) 원자 수백 개로 이뤄진 양자컴퓨터를 구상하고 있다.

그런데 양자컴퓨터가 제대로 작동하려면 계산과정에서 각 원자의 양자상태가 유지돼야 하는데 이게 보통 어려운 일이 아니다. 외부의 미세한 영향만으로도 양자상태가 바뀔 수 있고 그러면 계산이 엉망이 되기 때문이다. 따라서 양자컴퓨터는 액체헬륨으로 극저온 상태를 만든 환경에서만 작동할 수 있을 뿐 아니라 계산과정에서 원자를 옮겨 서로 상호작용하게 하는 광학격자 타입의 경우 옮기는 시간이 되도록 짧아야 한다. 시간을 끌면 양자상태가 바뀔 가능성이 높아지기 때문이다. 그런데 문제는 원자를 광학집게로 빨리 움직일 경우 에너지가 들어가 원자의 양자상태를 바꿀 수 있다는데 있다. 따라서 원자의 양자상태는 유지하면서 최대한 빨리 옮길 수 있게 광학집게의 경로를 최적화해야 한다.

셰르슨 교수팀은 컴퓨터 시뮬레이션을 통해 이런 경로를 찾았지만 이런 조건을 만족하는 최소 시간은 0.4초에 머물렀다. 연구자들은 이 한계를 극복하기 위해 사람의 ‘직관’에 의지해보기로 했다. 즉 광학집게로 원자를 옮기는 과정을 게임으로 시각화했는데, 더 효과적인 경로일수록 게임에서 더 높은 점수를 받을 수 있게 변환시켰다.

퀀텀무브스에서 광학집게로 원자를 옮기는 과제를 수행하는 장면을 캡쳐한 사진들이다. 오른쪽 우물에 담긴 물(격자에 갇힌 원자)을 광학집게(왼쪽 커서)를 움직여 옮겨오는 과제로 최대한 빨리 손실 없이 운반해야 높은 점수를 얻는다. - 네이처 제공

● 원자를 출렁거리는 물로 표현

연구자들은 이렇게 만든 게임 ‘퀀텀무브스(Quantum Moves)’ 온라인에 공개했고 사람들은 프로그램(앱)을 다운받아 도전했다. 이들 가운데는 양자역학에 조예가 깊은 사람도 있었지만 전혀 모르는 사람도 있었다. 그렇다면 이런 일반인들이 어떻게 컴퓨터도 제대로 못 푸는 양자역학 문제를 해결하는데 도움을 줄 수 있을까.

궁금해진 필자는 아이패드에 퀀텀무브스 앱을 다운받아 직접 게임을 해봤는데 연구자들의 상상력이 대단하다는 생각이 들었다. 이들은 광학격자에 들어 있는 원자를 파동방정식의 형식으로 구현했다. 즉 앱에서 루비듐 원자는 당구공 같은 형태가 아니라 양동이에 담긴 물처럼 보인다. 움푹 파인 우물(깊을수록 에너지가 낮다는 뜻이다)에서 출렁거리는 물이 원자인 셈이다.

게이머는 커서(광학집게)를 움직여 우물에 들어있는 물(원자)을 담아와 원하는 위치로 옮겨야 한다. 그런데 빨리 하려다보면 우물 속 원자가 크게 출렁거리면서 사방으로 퍼져나가 광학집게(역시 우물 형태로 표현된다)에 얼마 담지를 못한다. 즉 원자의 일부만(역시 확률적 개념이다) 옮길 수 있기 때문에 실패다. 그렇다고 너무 조심스럽게 접근하면 시간이 무작정 흐른다. 결국 여러 차례 시행착오를 겪다보면 어느 순간 절묘하게 물 대부분이 내 우물로 넘어오고 넘치지 않는 수준에서 최대한 빨리 옮길 수 있게 된다. 즉 최적에 가까운 경로를 찾은 것이다.  

연구자들은 사람들이 이런 식으로 게임을 수행한 결과 가운데 성적이 좋은 데이터를 추린 뒤 이를 바탕으로 해서 컴퓨터가 최적화하게 했다. 그 결과 최소 시간이 기존의 0.4초에서 절반인 0.2초로 줄어들었다. 그 뒤 새로운 알고리듬을 도입해 최종적으로는 0.176초까지 줄일 수 있었다.

이 결과에 대해 연구자들 자신도 놀랐는데 셰르슨 교수는 “양자역학은 우리가 생각했던 것만큼 반직관적이지 않을지도 모른다”며 “게이머들의 전략을 해석한 결과 터널링 효과 등 양자역학의 현상도 설명할 수 있었다”고 평가했다.

논문 말미에서 저자들은 “사람이 참여한 게임화 결과를 바탕으로 인지과학자들과 협력해 양자역학 문제를 직관적으로 푸는 기계학습(machine learning) 알고리듬을 개발할 것”이라며 “새로운 게임의 이름은 ‘퀀텀마인즈(Quantum Minds)’이다”라고 쓰고 있다. 사람의 직관은 결국 인공지능의 직관을 개발하기 위한 도구인 셈이다. 참고로 알파고를 만든 구글의 자회사 이름이 딥마인드(DeepMind)다.
동아사이언스