[사진 : 아인슈타인과 괴델]


 20세기의 이론과학은 아인슈타인의 상대성이론과 하이젠베르크의 불확정성원리로 대표되는 양자론의 토대 위에 세워졌다고 흔히 말합니다. 중력을 순수한 기하 형태로 바꾸어서 설명하는 상대성 이론은 지극히 아름다우면서 철학적인 설득력을 갖고 있으나 그것을 적용하는 대상에 한계가 있고, 양자론이 기초로 하는 가정들은 우리의 직관과 상반되며, 관찰자가 관여하는 철학적 일관성이 회의감을 주기도 하지만 20세기 중반 이후 놀랍도록 발달한 전자문명은 바로 양자론 덕분일 것입니다. 

이들보다 대중들에게는 덜 알려졌지만 상대성이론, 불확정성원리에 조금도 뒤지지 않을 만큼 지난세기의 중요하고, 근본적이고, 포괄적인 영향력을 갖고 있는 또 다른 이론과학의 위대한 성과가 바로 오스트리아 태생의 수리 논리학자 쿠르트 괴델 (Kurt Gödel, 1906~1978)의 불완전성정리(incompleteness theorems)입니다. 

흔히 언급되는 폰 노이만의 말처럼 ‘아리스토텔레스 이래로 가장 위대한 논리학자’로 여겨지는 괴델의 업적은 더글러스 호프스태터의 퓰리처상 및 미국도서대상 수장작품 <괴델, 에셔, 바흐>에서 1,000페이지가 넘도록 소개되어 있고 그것이 예술, 음악, 그리고 서구문명 전반에 끼친 영향에 관해서 난해하지만 놀라울 만큼 상세히 설명되어 있습니다. 괴델의 이론이 호프스태더의 책에서 중심을 이루고 있지만, 신기하게도 저자는 괴델 자신에 대해서는 전혀 언급을 하지 않습니다.

괴델은 성격과 생활방식이 너무나도 괴짜이고 비정상적이어서 그에 대해서 언급할 때 아주 특이한 천재라는 단순한 표현만으로는 크게 부족한 분입니다. 괴델은 그의 전 생애를 통해서 오직 수학적 증명만으로 하고픈 말을 다 하고자 했습니다. 그는 증명을 할 수 있을 정도로 절대적으로 확실한 자신의 관점에 도달하지 않는 한, 평생을 다른 사람의 논리와 관점에 맞서지 않았습니다.

평생 동안 괴델은 단 한명의 제자도 키우지 않았으며, 논문이나 책을 출판하는 것도 극도로 꺼렸습니다. 그가 평생 출판한 논문은 모두 합쳐 100페이지도 채 못 되지만 그 하나하나가 경이로운 업적입니다. 또한 한 페이지에 열 페이지의 분량을 담을 능력을 지닌 그의 논문은 간소하고 경제적이며 번쩍이는 통찰로 가득하면서도 아름답습니다. 

괴델의 가장 중요한 업적이자 청년 괴델을 일약 세계 최고 논리학자의 반열에 올려놓은 업적은 그가 24세에 발표한 두 개의 ‘불완전성정리’입니다. 그의 제1 불완전성정리는 “산술을 형식화한 무모순적인 논리체계에서는 그것이 참이지만 증명할 수 없는 명제가 항상 존재한다”는 내용입니다. 아주 간단히 말하자면 "진리는 증명보다 크다"라고 하겠습니다. http://www.research.ibm.com/people/h/hirzel/papers/canon00-goedel.pdf
수학 역사상 가장 충격적이었고, 논란이 많았던 그의 20페이지짜리 논문은 고도로 압축된 전문적 추론을 담고 있으나 전체적인 전략은 아주 단순하면서도 미학적인 아름다움을 지니고 있고, 이 증명은 살얼음 위를 걷는 듯 아슬아슬하게 자기모순의 경계로 접근하는 가운데 참이지만 증명 불가능한 명제가 존재한다는 결론에 도달합니다.

기원전 크레타인(Creta 人) 에피메니데스는 “모든 크레타인은 거짓말쟁이다”라는 말을 했다고 전해지는데, 이 문장은 그것이 거짓일 때만 참이 되는 역설을 만듭니다. 이와 마찬가지로 1902년에 발견되어 수학계를 발칵 뒤집어 놓은 러셀의 역설 “자기 자신을 원소로 갖지 않는 모든 집합들의 집합은 자기 자신을 원소로 갖는가?” (티스푼이 아닌 것들의 집합은 그 자체가 티스푼이 아니므로 자기 자신의 원소가 된다는 것에 착안한 러셀의 놀라운 발견입니다.) 그와 마찬가지로 셰빌리아의 이발사 역설 등의 공통점은 그 서술에 자기 자신을 가리키는 내용이 담겨 있고 그 때문에 문제가 발생한다는 것입니다. 괴델은 에피메니데스의 역설과 흡사한 방식의 자기언급적 역설의 구조를 수학 역사상 가장 놀라운 결론의 증명으로 탈바꿈시킵니다. 

이 증명을 아주 극단적으로 단순화시켜서 다른 방법으로 비유하자면 다음과 같습니다. (예전에 無所依님 글에서 댓글로 예를 든 적이 있는 내용입니다.)

이 세상의 모든 진실을 담고 있는 컴퓨터와 거기에 연결된 프린터 K가 있다고 하겠습니다. 프린터 K는 우리가 컴퓨터에 어떤 진술을 입력했을 때, 그 진술이 참인 경우에만 인쇄하도록 만들어졌습니다. 즉 진리 판단 장치가 완벽히 갖추어졌다고 가정하겠습니다. 

이제 이러한 컴퓨터에 다음과 같은 진술 S를 입력시키는 경우를 살펴보겠습니다. 
진술 S : "프린터 K는 결코 이 진술을 인쇄하지 않는다" 

만일 프린터 K가 이 진술을 인쇄한다면, 진술 S는 거짓이 될 것이고, 따라서 프린터 K는 거짓 진술을 인쇄한 셈입니다. 그러므로 프린터 K는 결코 진술 S를 인쇄하지 않을 것이며 위이 논리에 따르면 이는 진술 S가 참이라는 것을 의미합니다. 즉 참인 진술 중에 프린터 K가 절대 인쇄할 수 없는 것이 분명히 있습니다. 즉 참이지만 증명할 수 없는 명제가 존재하는 것입니다.

또한 괴델은 위에서 언급한 제1 불완전성정리로부터 “산술체계의 일관성을 그 안에서는 증명할 수 없다”는 따름정리를 쉽게 얻어내는데, 이는 후에 제2 불완전성정리라고 불립니다. 제2 불완전성정리는 제1 불완전성정리의 단순한 귀결에 지나지 않지만 힐베르트의 2번 문제의 해결 불가능성과 직결되기 때문에 먼저 주목을 끌었습니다.

20세기 수학자 중 가장 영향력을 지녔으며, 생전에 세계 최고 수학자라는 칭호를 이름표처럼 달고 다녔던 힐베르트는 1900년 파리에서 개최된 국제수학회에서 새로운 세기의 수학을 결정적으로 도약시킬 23개의 문제를 제시했는데, 그중 두 번째 문제가 “산술 공리의 무모순성에 대한 증명”이었고, 28년 후인 1928년 국제수학회에서 참인 진술은 모두 증명될 수 있는가하는 근본적인 질문을 던지고 그것을 가능하게 하는 공리적 논리체계를 만들고자 하는 원대한 프로그램을 제시했습니다. 인간의 사고능력 앞에는 불가능이란 없다고 굳게 믿으면서 힐베르트가 증명하려 했고 또 증명할 수 있다고 믿었던 수학 체계의 완비성과 무모순성의 증명은 괴델로 인하여 불가능한 것으로 판명되고 말았습니다.

괴델의 불완전성정리는 recursion theory, model theory등 완전히 새로운 연구 분야를 탄생시켰으며 이들은 현대 논리학의 핵심 분야로 자리 잡습니다. 또한 그의 정리로부터 인간 지성의 본질에 관한 결론을 끌어내리기 위한 많은 연구들이 이루어졌는데, 이는 최근에 인지과학이라고 일컫는 분야의 핵심적 쟁점입니다. 1961년 옥스퍼드의 철학자 존 루카스는 괴델의 불완전성정리와 인간 지성의 본질 사이의 관계에 대한 논증을 처음으로 펴냈고, 후에 옥스퍼드의 수리 물리학자 로저 펜로즈는 그의 저서에서 괴델의 정리를 이용하여 ‘인간의 정신은 합리적인 사고를 초월하므로 어떤 기계에서도 복사될 수 없다’는 주장을 펼칩니다. 괴델의 열렬한 추종자였던 앨런 튜링은 1936년에 “주어진 프로그램 P와 입력자료 I에 대해서, P가 입력 I를 처리하는 것을 끝낼지의 여부를 말해주는 어떤 일반적인 방법도 없다”는 것을 증명함으로써 그 유명한 ‘멈춤문제’를 해결했는데, 튜링의 증명은 본질적으로 괴델의 불완전성정리와 일치합니다.

나치가 정권을 잡은 독일을 뛰쳐나온 괴델은 아인슈타인이 재직하던 프린스턴의 고등과학원에 정착합니다. 그곳에서 괴델은 자신보다 한 세대 위의 아인슈타인과 전설로 남을 만한 우정을 나눕니다. 아인슈타인은 경제학자 오스카 모르겐슈테른에게 보낸 편지에서 ‘나는 괴델과 함께 집으로 걸어오는 특권을 누리기 위해 연구소에 간다’고 쓸 정도였습니다. 

아인슈타인의 영향을 받아 괴델은 상대성이론에 대해서 큰 흥미를 갖는데, 그의 연구 중 가장 특이한 내용이 담긴 논문을 아인슈타인의 70회 생일을 기념하기 위해 1949년에 출판된 책에 게재합니다. 그 논문에서 괴델은 일반상대성이론에서 유도된 아인슈타인 장 방정식의 soultion을 얻었는데 여기서 일시적 인과율의 고리를 만들어내는 closed time-like curves가 생성됩니다. 결국 일반상대성 이론이 성립하는 우주에서는 역사의 인과율을 깨지 않은 상태에서 원래 시간과 장소로 되돌아 올 수 있는 시간여행이 가능하다는 내용입니다. 쉽게 설명하자면 P와 Q가 물질세계의 선 위에 있는 두 점이고, 이 선 위에서  P가 Q를 앞선다면, Q가 P에 앞서면서 P와 Q를 연결하는 어떤 시간성 곡선이 존재한다는 걸 증명했습니다.

특이한 천재 중에서도 비교가 불가능할 정도로 특이한 괴델은 많은 일화를 남겼는데, 그중 가장 유명한 것은 모르겐슈테른에 의해서 전해지는 미국 시민권 취득에 얽힌 일화입니다. 시민권을 따기 위해서는 언어 구술시험을 치러야 했기 때문에 괴델은 미국 헌법을 공부했고, 이 과정에서 미국 헌법에 논리적인 모순이 있어서 미국이 아주 합법적으로 독재 정권이 될 수 있음을 간파했습니다. 괴델은 아인슈타인과 모르겐슈테른을 증인으로 동반하고 관청에 들어섰는데, 그곳에서 면접관인 관리가 독일을 비난하면서 미국의 제도를 자랑하기에 괴델은 자신이 발견한  미국 헌법의 모순점들에 대해서 면접관에게 소리치며 이야기했습니다. 다행히(?) 당대 최고의 명사였던 아인슈타인과 모르겐슈테른이 간신히 괴델과 면접관을 진정시켜 시험을 치르게 하고 미국시민으로서의 선서를 하게 했다는 내용의 일화입니다.

어릴 적부터 우울증에 시달리던 괴델은 1955년 아인슈타인의 사망 이후 큰 충격과 소외감 그리고 깊은 추방감을 느껴 그의 고도로 발전된 합리화의 구도는 망상으로 변질하고, 그의 창조적 노력을 동반한 이성은 대인기피증과 편집증으로 변하게 됩니다. 그는 더운 여름에도 외투와 목도리를 두르고 다녔으며, 아주 극소수의 지인을 제외하고는 아무도 만나려하지 않았습니다. 자신의 60회 생일을 기념하기 위해서 열린 학술대회에도 모습을 드러내지 않았습니다. 

괴델이 청년시절부터 절친한 친구였고, 누구보다도 그를 잘 이해해주던 모르겐슈테른이 1977년에 사망하자 그의 편집증은 공황상태에 이르렀습니다. 그는 누군가 자신을 독살하려고 한다고 믿어서 음식을 입에 대지도 않았습니다. 탈수상태에 빠진 괴델은 강제로 입원되었고, 병원에서도 두주일이 넘도록 음식을 완강히 거부했고, 1978년 1월 24일, 의자에 앉은 채 숨을 거뒀습니다. 사망진단서에 의하면 사인은 성격장애로 인한 영양실조였고, 사망당시 그의 몸무게는 불과 65파운드(29.4 Kg)였습니다.