노벨 물리학상의 의미①...아인슈타인 너머

알랭 아스페, 존 클라우저, 안톤 차일링거. 2022년 올해에 노벨 물리학상을 받은 물리학자들이다. 노벨상 위원회에서는 “얽혀있는 광자 실험과 벨 부등식의 위배와 양자 정보과학을 개척한 공로로 위 세 명에게 노벨물리학상을 수여한다”고 발표했다. 얽혀있는 광자, 벨 부등식의 위배, 양자 정보과학. 세 가지 모두 물리학을 전공하지 않은 사람들이 이해하기란 무척 힘든 내용이다. 하지만 굳이 위 세 가지 내용이 담고 있는 심오한 뜻을 이해하지 못한다고 해도 물리학을 떠나서 이 세 명이 이룬 업적이 지닌 또 다른 의미를 살펴볼 수는 있다.

아인슈타인과 양자역학

알베르트 아인슈타인은 특수상대성과 일반상대성이론으로 이름이 널리 알려져 있다. 시사 잡지 <타임>의 1999년 12월 31일 자에서는 아인슈타인을 20세기의 인물로 선정했다. 그러나 그가 양자역학의 기틀을 세우는 데도 크게 공헌했다는 사실은 상대적으로 잘 알려지지 않았다. 그는 1921년에 노벨 물리학상을 받았는데, 상대성이론으로 받은 게 아니라 ‘광전효과’로 받았다. 광전효과는 알루미늄과 같이 가벼운 금속에 빛을 쪼여주면 전자가 튀어나오는 현상을 말한다.

아인슈타인은 그 당시에 사람들의 이목을 끌지 못했던 플랑크의 양자론을 정확하게 이해하고, 과감히 도입해서 광전효과를 단순하면서도 깔끔하게 설명했다. 물론, 제대로 된 양자역학은 1925년에 이르러서야 하이젠베르크와 보른, 요르단, 그리고 슈뢰딩거에 의해 비로소 완성되지만, 아인슈타인이 광전효과에서 사용한 양자론이 양자역학의 기틀을 마련한 건 분명한 일이다. 그럼에도 불구하고 아인슈타인은 1925년에 완성된 양자역학을 달가워하지 않았다. 실재론자였던 그는 미시세계는 확률의 지배를 받는다고 설명하는 양자역학이 못마땅했다. 그래서 한번은 “신은 주사위를 굴리지 않는다”라며 양자역학에 내재되어 있는 우연성을 비판했다.

코펜하겐의 해석과 EPR 역설

반면에 덴마크 코펜하겐의 유명한 이론물리학자 닐스 보어는 양자역학의 수호자이자 후견인 역할을 자처했다. 그는 당시 젊은 물리학자들에게 엄청난 영향을 끼치며, 그가 소장으로 있던 코펜하겐의 닐스 보어 연구소는 양자역학의 성지로 자리잡는다.

그는 ‘코펜하겐 해석’이라는, 다분히 철학적인 양자역학의 해석을 내놓았다. 모든 입자는 입자이면서 동시에 파동이고, 이 입자의 위치나 운동량은 확률에 의해 지배받는다고 주장했다. 1927년에 솔베이 학회에서 양자역학의 해석을 두고 보어는 아인슈타인과 열띤 논쟁을 벌였다. 논쟁에서 승리는 닐스 보어에게 돌아가는 듯 보였다.

그러나 1935년에 아인슈타인은 두 젊은 물리학자인 보리스 포돌스키와 나단 로젠과 함께 “물리적인 실체를 양자역학으로 기술하는 것은 완전한가?”라는 매우 도발적인 제목의 논문을 <피지컬 리뷰>에 출판한다. 이 논문은 논리적으로 양자역학의 가장 약한 고리를 건드렸다. 이 논문의 주장은 세 명의 저자의 이름 앞자를 따 ‘EPR 역설’로 알려졌다.

이 논문의 핵심은 양자역학의 실재성과 국소성에 관한 것이었다. 아인슈타인은 양자역학과는 달리 입자들을 측정하기 전에도 입자들의 양태를 예측할 수 있는 ‘숨은 변수’가 있을 거라고 여겼다. 이 논문은 당시 양자역학을 지지하는 물리학자들의 놀이터에 떨어진 폭탄과 같았다. EPR 역설을 뒤집는 건 정말이지 만만한 일이 아니었다.

올해의 노벨 물리학상은 바로 이 EPR 역설과 깊은 관련이 있다. EPR 논문이 출판되었을 때만 해도, EPR 역설이 올바른지 실험으로 확인할 방도가 없었다. 게다가 아인슈타인과 몇몇 물리학자들을 제외하면 모두 닐스 보어가 주장한 코펜하겐 해석을 신실하게 따랐다. 그리고 이 해석에 반대하는 걸 탐탁하게 여기지 않았다. 그만큼 양자역학은 미시세계의 현상을 설명하는 데 성공적이었다. 원자도, 분자도, 핵도, 양성자도, 전자도, 쿼크도 모두 양자역학의 지배를 받는다는 건 자명해 보였다. 그런 양자역학에 의문을 던지는 건 불경한 짓이나 다름없다고 여겼다.

여기에 쐐기를 박은 건, 양자역학의 근간이 되는 수학을 세운 헝가리 출신의 천재 수학자 존 폰 노이만이었다. <양자역학의 수학적 토대>에서 폰 노이만은 그 어떤 국소적 숨은 변수 이론도 양자역학에서는 존재할 수 없다는 걸 증명했다. 당시 젊은 여성 수학자 그레테 헤르만이 폰 노이만의 증명이 잘못되었다고 지적했지만, 누구도 그 말에 진지하게 귀를 기울이지 않았다. 그만큼 폰 노이만의 권위는 절대적이었다.

혁명적인 벨의 부등식

존 스튜어트 벨은 아일랜드 출신의 물리학자였다. 그는 입자물리학과 가속기 물리학의 전문가였지만, 양자역학에 빈틈이 있다는 사실을 마음에 두고 있었다. 그는 국소적 숨은 변수 이론은 불가능하다는 폰 노이만의 증명이 틀렸다는 사실을 알아차렸다. 벨은 ‘EPR 역설에 관하여’라는 논문을 당시로서는 잘 알려지지 않은 신생 논문집 <Physics Physique Физика(물리 물리 물리)>에 실었다.

이 신생 논문집은 나온 지 4년 만에 세상에서 사라지고 만다. 원래 벨은 이 논문을 <피지컬 리뷰>에 출판하고 싶었지만, 유럽 입자물리연구소(CERN)를 방문하고 있던 터라 출판에 드는 비용을 연구소에 요청할 자신이 없어 새로 생긴 논문집에 내기로 마음먹었다. 그 당시로서는 사람들의 시선을 끌지 못했지만, 어느 과학사가의 말마따나 코페르니쿠스의 지동설에 비견될 만큼 혁명적인 논문이었다.

벨은 이 논문에서 ‘벨의 부등식’이라는 유명한 식을 세웠다. 이 식은 ‘EPR 역설’을 구체적으로 확인할 방법을 제공했다. 드디어 과연 양자역학이 옳은지, 숨은 변수 이론이 옳은지 판가름할 수 있는 길이 열린 셈이었다.

탄탄한 이론으로 자리잡은 양자역학의 논리적인 허점을 연구하는 건, 그 당시에 어지간한 용기 없이는 할 수 없는 일이었다. 그런데 그 위험한 일에 도전한 사람이 있었다. 그 사람은 컬럼비아대학교 물리학과에서 우주배경복사를 연구하던 대학원생 존 클라우저였다. 2022년 올해 노벨 물리학상 수상자중 한명이다.

그는 1967년에 도서관에 들렀다가 우연히 벨의 논문과 마주치게 됐다. 클라우저는 이미 코펜하겐 해석에 의문을 품고 있던 차였다. 벨의 논문을 읽으면서 EPR 역설이 코펜하겐 해석보다 훨씬 설득력 있게 다가왔다. 클라우저는 마이클 혼, 애브너 쉬모니, 리처드 홀트와 함께 벨의 부등식을 실험으로 좀 더 쉽게 확인할 수 있는 부등식으로 바꿨다. 그 부등식은 네 명의 이름 앞 자를 따서 ‘CHSH 부등식’이라고 불린다.

그러나 실험은 1972년이 되어서야 할 수 있었다. 몇 가지 문제가 있긴 했지만, 실험 결과는 놀라웠다. 숨은 변수 이론과 양자역학의 첫 대결에서 클라우저는 양자역학의 손을 들어주었다. 양자역학에서 신기원을 이룰 만한 실험을 했지만, 클라우저는 정규직을 얻을 수 없었다. 그의 지도교수였던 컬럼비아대학교의 패트릭 태듀스는 클라우저의 추천서에서 “클라우저가 한 벨의 부등식 실험은 쓰레기 과학”이라고 혹평을 했다. 다행히 클라우저는 추천서를 보내기 전에 이 사실을 알고 자신이 지원한 정규직에 넣는 서류에서 제외했지만, 태듀스가 한 말이야말로 그 당시 분위기를 잘 전해준다. ②에서 계속