애머 액젤(Amir D. Aczel) 지음, 신현웅과 승영조 함께 옮김(2002). 무한의 신비 - 수학, 철학, 종교의 만남(Mystery of Aleph). 승산. 과학>수학>게오르크 페르디난트 루트비히 필립 칸토어의 생애와 무한 집합 이야기>영어>...

애머 액젤(Amir D. Aczel) 지음, 신현웅과 승영조 함께 옮김(2002). 무한의 신비 - 수학, 철학, 종교의 만남(Mystery of Aleph). 승산.

2^א=א(2=א)

א는 자연수 무한집합의 농도, א는 실수 무한집합의 농도

א는 히브리어 알파벳 첫 번째 글자로 알레프(Aleph)라고 읽는다. 게오르크 페르디난트 루트비히 필립 칸토어가 א를 무한집합의 농도를 나타내는 용어로 사용한 것은 자신이 발견한 자연수 무한집합의 농도가 다른 모든 무한집합의 가장 기초적인 단위가 될 것이라고 생각했기 때문이다.

I see it, but I don't believe it.

- 게오르크 페르디난트 루트비히 필립 칸토어가 무한집합의 여러 속성을 발견하고서 한 말

무한집합에는 역설적인 것들이 많이 나온다. 가령, 자연수 무한집합과 홀수의 무한집합, 짝수의 무한집합, 3의 배수의 무한집합, 제곱수의 무한집합, 정수의 무한집합, 유리수의 무한집합, 0과 1사이의 모든 유리수의 집합의 그 크기가 같다(그 농도가 같다).

자연수 무한집합의 크기 = 홀수의 무한집합의 크기 = 짝수의 무한집합의 크기 = 3의 배수의 무한집합의 크기 = 제곱수의 무한집합의 크기 = 정수의 무한집합의 크기 = 유리수의 무한집합의 크기 = 0과 1사이의 모든 유리수의 무한집합의 크기

무한(無限)에 해당하는 것은 공간, 시간, 인과율, 물질, 에너지, 파동 등 여러 가지가 있지만, 전 세계에 걸쳐서 가장 널리 알려진 무한(無限)은 신(神)이다. 그래서 무한(無限)에 대한 논의는 수학 이외에도 신화학, 종교학, 철학, 신학 등 다양한 형이상학(形而上學)에서도 많이 나온다. 그래서 수학에서 다루는 무한집합에 대한 이해는 형이상학에서 다루는 신(神)에 대한 이해와 상관관계가 있는 것 같다.

무한에는 2가지 측면이 있다. 하나는 자연수 집합처럼 <지대무외(至大無外, 지극히 커서 그 바깥이 없음)>형이고, 다른 하나는 0에서 1사이에 있는 실수집합처럼 <지소무내(至小無內, 지극히 작아서 그 안이 없음)>형이다. <지소무내(至小無內)>형은 공(空), 무(無), 허(虛)처럼 점(占)이 위치만 있고 길이가 없기 때문에 가능하다. 여기에서 나는 반야심경(般若心經)에 나오는 <색즉시공(色卽是空) 공즉시색(空卽是色)>을 떠올렸다. 이런 통찰력을 준, 2500년 전 중국에 살았던 천재 사상가 장자(莊子)에게 감사를 드린다. <지대무외(至大無外)>나 <지소무내(至小無內)>라는 말도 <장자(莊子)>라는 책에 나온다.

p. 216~217에서 인용, 수정했음.

어떤 형식논리 체계가 주어졌을 때, 그 형식논리 체계 내에서는 증명될 수 없는 명제가 항상 존재할 거라고 쿠르트 프리드리히 괴델은 결론지었다. 어떤 정리가 참이라 해도, 그것을 수학적으로 증명하는 것이 불가능할 수 있다. 이것이 바로 쿠르트 프리드리히 괴델의 유명한 <불완전성 정리(Incompleteness Theorem)>의 핵심이다.

p. 218~219에서 인용, 수정했음.

우리는 한 형식논리 체계가 일부 정리에 대해 어떻게 불완전할 수 있는지, 제한된 형식논리 체계 안에서 왜 일부 정리를 증명할 수 없는지, 이런 의문점은 컴퓨터 조작 체계를 빗대어 보면 쉽게 이해할 수 있다.

컴퓨터 스크린 상에서 문서를 작성하고 있다고 가정해보자. 우리는 많은 일을 할 수 있다. 쓰고, 다음 칸으로 이동하고, 정보를 덧붙이거나 잘라내고, 다른 곳에 있는 그림이나 공식을 삽입할 수도 있다. 그러나 작성 중인 문서 안에서 문서 자체를 삭제할 수는 없다. 그렇게 하려면(혹은 다른 파일로 그 문서를 옮기려면), 그 문서에서 빠져 나와, 더 큰 체계 안에서 조작을 해야 한다.

주어진 체계 안에서는 이해할 수 없는 아이디어나 속성이 있을 수 있다. 그것을 이해하기 위해서는 더 높은 수준으로 초월할 필요가 있다. 게오르크 페르디난트 루트비히 필립 칸토어가 증명했듯이 <가장 높은> 수준은 없기 때문에, 모든 체계 안에는 항상 우리가 이해할 수 없는 아이디어나 속성이 내재해 있을 것이다. 그런 맥락에서 사람은 무한(無限=신神)을 결코 이해할 수 없다. 사람의 정신력이 어떤 수준의 체계를 점유하고 있든, 제한된 그 체계 안에서는 완전히 이해할 수 없는 속성들이 존재한다. 무한(無限)은 그 어떤 것보다 더 높은 체계를 점유하고 있기 때문에, 제한된 사람의 정신력으로는 그런 수준에 이를 수 없고 무한(無限)을 이해할 수도 없다.

위의 내용에 있는 것을 확장해서 생각하면 이렇게 된다.

하드 디스크에 있는 원도우 2000을 삭제하기 위해서는 하드 디스크에 있는 원도우로 부팅하지 말고 CD-Rom에 있는 원도우 2000으로 부팅한 후에 하드 디스크에 있는 원도우 2000을 삭제해야 한다.

컴퓨터의 CPU와 CMOS를 없애기 위해서는 컴퓨터를 켜지 말고, 컴퓨터 케이스에서 CPU를 떼어내서 부셔 버려야 한다.

위의 내용을 숫자체계에 비유해 보자.

우리가 빚진 것(예를 들어, [-300만원])을 나타내는 데는 음수(陰數)가 필요하다. 따라서 양수(자연수)만 아는 사람은 빚을 숫자로 표시하는 방법을 모른다.

2개의 귤을 3명에게 나누는 데(2/3)는 유리수가 필요하다. 따라서 정수만 아는 사람은 2개의 귤을 3명에게 나누는 것을 숫자로 표시하는 방법을 모른다.

길이가 1인 정사각형의 대각선의 길이를 표시하기 위해서는 무리수가 필요하다. 따라서 유리수만 아는 사람은 길이가 1인 정사각형의 대각선 길이를 숫자로 표시하는 방법을 모른다.

제곱해서 (-1)이 되는 미지수가 있는 2차 방정식을 풀이하기 위해서는 허수(虛數)가 필요하다. 따라서 실수만 아는 사람은 제곱해서 (-1)이 되는 미지수가 있는 2차 방정식을 풀 수 없다.

p. 269에서 인용, 수정했음.

쿠르트 프리드리히 괴델이 증명한 <불완전성 정리(Incompleteness Theorem)>는 컴퓨터가 아무리 발전해도 사람의 두뇌에 이르지 못한다는 논증에 활용되기도 한다. 사람은 신비한 능력으로(논리에 의해서가 아니라, 직관에 의해서) 뜻밖의 사실을 발견하는 게 가능하지만, 컴퓨터는 유한개의 공리(公理)로 출발하여 유한 단계에서 논증이 끝나야 하므로 <불완전성 정리(Incompleteness Theorem)>에 의하여 참과 거짓을 가릴 수 없는 주장이 존재하게 된다는 것이다. 마찬가지로 사람의 이성적 생각(rational thought)으로는 궁극적 진리(=무한無限)에 도달할 수 없다고 할 수 있다. 다시 말하여 궁극적 진리는 증명가능한(provable) 것이 아니라고 말 할 수 있다.

p. 276에서 인용, 수정했음.

수학적 결론이 우리의 상식(직관)과 갈등을 일으키는 예는 <바나흐 - 타르스키 역설(The Banach - Tarski Paradox)> 외에도 많다. 그 중에 한 예는 <두 봉투 역설(Two Envelope Paradox)>이다. 그 내용은 다음과 같다.

당신 앞에 상금이 들어 있는 두 봉투가 있다. 한 봉투 속의 상금은 다른 봉투 속의 상금의 2배라는 것을 당신은 안다. 그러나 안타깝게도 겉으로는 구별이 되지 않는다. 이제 당신은 둘 중 하나를 택하고 그 택한 상금을 받게 된다. 택하고 난 후 그 금액을 확인한다(물론, 확인하지 않고 그냥 가지고 가도 된다). 이 때 당신이 원한다면 한 번의 기회가 더 주어진다. 이제라도 다른 봉투를 택할 수 있는 것이다. 가급적 많은 상금을 원한다면, 당신은 어찌하겠는가? 처음에 택한 상금으로 만족하겠는가? 아니면 봉투를 바꿔 보겠는가? 당신의 결정(전략)에 논리적인 근거가 있는가? 그 논리적 근거는 당신의 상식(또는 직관적인 느낌)과 일치하는가?

위의 내용에 대해서 계산하면 다음 표와 같다.

구 분	봉투 A의 기대값(내가 첫 번째 선택한 것)	봉투 B의 기대값
1. 구체적인 계산	200만원	1. 100만원일 확률이 50%이므로 기댓값은 50만원 2. 400만원일 확률이 50%이므로 기댓값은 200만원 3. 결국, 1과 2의 경우를 합하면 봉투 B의 기댓값은 250만원
2. 대수적인 계산	2x(단, x>0)	1. x인 확률이 50%이므로 기댓값은 0.5x 2. 4x일 확률이 50%이므로 기댓값은 2x 3. 결국, 1과 2의 경우를 합하면 봉투 B의 기댓값은 2.5x(단, x>0)
3. 결론	1. 봉투 A의 기댓값 200만원(2x)<봉투 B의 기댓값 250만원(2.5x) 2. 가급적 많은 상금을 원한다면, 처음 선택한 봉투(봉투 A)와 다른 봉투(봉투 B)를 항상 선택하는 것이 합리적임. 3. 현실에서는 대부분의 사람이 처음 선택한 봉투 A를 고집함. 4. 현실에서 대부분의 사람이 처음 선택한 봉투 A를 선택하는 이유는 휴리스틱 판단때문임. 5. 이 문제의 경우에는 특이하게도 수학적 결론보다 상식적인 판단이 더 정확함.

2002년 노벨 경제학상을 수상한 인지심리학자 다니엘 카네만이 발견한 휴리스틱 판단(직관 판단, 갠또 판단)을 통해서 위의 이유를 설명할 수 있다.

시험을 치다가 어떤 문제의 답을 잘못 적은 것 같아서 정답을 고칠려고 마음먹는 경우를 살펴보면 다음 표와 같다.

구 분	휴리스틱 판단과 기억
1. 처음 적은 정답을 고치지 않아서 그 문제를 맞춘 경우	기억하지 않음
2. 처음 적은 정답을 고치지 않아서 그 문제를 틀린 경우	약간 기억함.
3. 처음 적은 정답을 다른 정답으로 고쳐서 그 문제를 맞춘 경우	기억하지 않음.
4. 처음 적은 정답을 다른 정답으로 고쳐서 그 문제를 틀린 경우	아주 잘 기억함.

위의 표처럼 결과가 나오는 것은 사람의 마음은 이익보다는 손실에 2배 이상 민감하게 반응하기 때문이다. 우리는 자신의 과거 행동 중에서 성공하고 잘한 것은 기억하지 못하고 주로 실패하고 실수한 것을 잘 기억한다.

<이기적 유전자>와 <확장된 표현형>을 쓴 진화생물학자 리차드 도킨스는 그 이유를 이렇게 설명한다. 손실과 고통은 번식과 생존에 관련된 문제이고, 이득과 쾌락은 단지 편리와 불편에 관련된 문제이기 때문이다. 즉, 오랜 시간의 진화적 과정을 거치면서 손실과 고통에 민감하게 반응한 생물만이 살아남고 번식할 수 있었다는 것이다.

또, 사람의 두뇌는 번식과 생존에 관련된 문제를 해결할 때, 번식과 생존에 도움이 되는 것을 찾는 것이 아니라, 번식과 생존에 도움이 되지 않는 것을 찾아서 그것을 피하는 방식으로 유전자에 의해서 설계되었다고 리차드 도킨스는 말한다. 따라서 사람은 번식과 생존에 대한 문제해결에 성공한 사례보다 실패한 사례를 뚜렷이 기억하고, 과거의 실패를 되풀이하지 않으려고 노력한다.

다니엘 카네만이 실제로 실험한 결과를 보면, 처음 적은 정답을 다른 정답으로 고쳐서 맞춘 문제의 숫자(위의 표 3번 경우)가 처음 정답을 고집해서 맞춘 문제의 숫자(위의 표 1번 경우)보다 많다. 또, 처음 적은 정답을 다른 정답으로 고쳐서 틀린 문제의 숫자(위의 표 4번 경우)가 처음 적은 정답을 고치지 않아서 틀린 문제의 숫자(위의 표 2번 경우)보다 적다. 즉, 합리적이고 알고리즘 판단(논리 판단)을 하는 사람이라면 시험문제를 풀다가 정답이 미심쩍으면 다른 정답으로 고치는 것이 이득이다. 하지만, 사람의 휴리스틱 판단은 위의 표와 같기 때문에 처음 정답을 다른 정답으로 고쳐서 틀린 것만 강하게 기억한다. 따라서 마음의 안정을 원한다면, 시험문제에서 한번 찍은 정답을 고치지 않는 것이 좋다. 마음의 안정이냐? 좋은 시험점수이냐? 그것은 당신의 선택에 달렸다.

사람은 번뇌(煩惱)와 괴로움 중에서 번식과 생존에 관련된 것은 오래도록 고통으로 기억한다. 사람은 번뇌(煩惱)와 괴로움 중에서 단지 편리와 불편에 관련된 것은 시간이 지나면 좋은 추억으로 기억한다. 고등학교 3학년의 입시경쟁과 군대를 다녀 온 남자들이라면 이 말 뜻을 쉽게 이해할 수 있을 것이다. 고등학교 3학년 시절과 군대 시절은 참 지겹고 힘든 시간이었지만, 돌이켜보면 좋은 이야기꺼리도 가장 많다. ^^

위의 내용을 간단하게 표로 정리하면 다음과 같다.

오랫동안 기억하는 고통(번식과 생존에 큰 타격을 준 내용이며, 결코 좋은 추억으로 변하지 않는 내용)	시간이 지나면 좋은 추억으로 변하는 고통(번식과 생존에 무관하며, 단지 편리와 불편의 문제에 해당하는 내용)
1. 자식이나 손자의 죽음	1. 짝사랑이나 풋풋한 첫사랑의 아픔
2. 아내의 죽음, 번식에 매우 관련 깊은 애인의 죽음이나 실연(失戀)	2. 번식에 별 관련 없는 애인의 죽음이나 실연(失戀)
3. 어린 시절에 겪은 부모의 죽음, 번식과 생존에 결정적인 타격을 준 어린 시절의 가난	3. 번식과 생존에 결정적인 타격을 주지 않은 과거 어린 시절의 가난
4. 여러 번 도전 후, 자기가 원하지 않는 곳에 취업, 재취업하지 못한 실직(失職), 재기하지 못한 사업 실패	4. 많은 도전을 거듭한 후에 결국 자기가 원하는 곳에 취업, 실직(失職) 후에 성공적인 재취업, 어려움을 겪으면서도 결국 사업에 성공한 경험
5. 교통사고나 암 같이 생명을 위협하는 질병에 걸렸던 경험	5. 고등학교 3학년의 입시경쟁 경험
6. 전쟁이나 생명을 위협하는 폭력에 대한 경험	6. 군 생활 경험

p. 276~277에서 인용, 수정했음.

수학적 결론이 우리의 상식(직관)과 갈등을 일으키는 수리 논리와 관련된 예도 있다. <헴펠의 역설(Hempel's Paradox>이 대표적이다. 다음 명제를 증명하고 싶다.

<All Raven are Black(모든 까마귀는 검다).>

이곳저곳 다니면서 까마귀(raven)를 만나, 그 까마귀가 검은 색임을 확인한다. 만나는 까마귀의 수가 많아지고 그 때마다 검은색임이 확인될수록 증명하고자하는 명제의 정당성에 신뢰가 커진다. 그러나 여행하며 까마귀를 만나기가 쉽지 않다. 시간과 돈이 많이 든다. 그래서 증명 전략을 바꾸기로 했다. 원래 명제의 대우 명제인 <검지 않으면 까마귀가 아니다>를 증명하기로 한 것이다. 원래 명제와 그 대우 명제의 진리 값은 항상 같다고 수리 논리학에서 증명했기 때문이다. 멀리 여행하지 않아도 이 대우 명제가 참임을 확인해 주는 예가 당신 주위에 많이 있다. 이제 이러한 예가 많아질수록 당신은 원래의 명제 <All Raven are Black(모든 까마귀는 검다).>의 정당성에 신뢰가 쌓이는가? 그렇지 않다면 무엇이 문제인가?

위에서 수학적 결론이 우리의 직관과 어긋나는 이유는 논리체계가 다르기 때문이다. 수학은 아리스토텔레스의 형식논리체계를 따르는 대표적인 예이다. 하지만, 사람의 직관은 내용논리체계를 따른다. 다음과 같은 예를 보자.

어떤 도둑이 말했다.

<도둑은 나쁜 짓이다.>

수학 같은 형식논리 체계에서는 누가 말했는지를 상관하지 않고 <도둑은 나쁜 짓이다.>라는 명제의 진위여부만 따진다. 하지만, 일상생활에서 사람들이 사용하는 내용논리 체계에서는 말의 내용 뿐만 아니라, 그 말을 한 사람의 도덕성도 함께 따진다. 그리고 생물의 번식과 생존에는 형식논리 체계보다는 내용논리 체계가 더 효율적이다. 그것은 대다수의 사람이 형식논리 체계보다 내용논리 체계를 사용하고 있다는 사실이 증명하고 있다.

p. 277에서 인용, 수정했음.

매우 엄격할 것 같은 수리 논리에는 어이없는 참 명제도 있다. <1+1=3(F)이면 나는 영국의 여왕(F)이다.>라고 러셀이라는 남자가 주장했다면, 이 주장은 두 개의 거짓 명제로 이루어진 참 명제이다. 수학적으로는 <거짓말로만 된 참말>이 가능하다는 것이다.

수리 논리학에서 다루는 진리표를 참고해 보자. 아래표에서 파랑색으로 표시한 부분이 위의 내용이 다루고 있는 부분이다.

p	q	p→q
T(참)	T(참)	T(참)
T(참)	F(거짓)	F(거짓)
F(거짓)	T(참)	T(참)
F(거짓)	F(거짓)	T(참)

수학의 본질은 그 자유에 있다.

- 게오르크 페르디난트 루트비히 필립 칸토어

에머 엑젤 이사람과 나는 저자와 독자로서의 궁합이 아주 잘 맞는 것 같다. 왜냐하면 이 사람이 저번에 쓴 책 '페르마의 마지막 정리'도 나에게 큰 감명을 준, 인상깊은 책이었기 때문이다. 물론 페르마의 마지막 정리를 풀기 위해 와일이 30년동안 고군분투한 인생자체가 감동적이긴...

에머 엑젤 이사람과 나는 저자와 독자로서의 궁합이 아주 잘 맞는 것 같다. 왜냐하면 이 사람이 저번에 쓴 책 '페르마의 마지막 정리'도 나에게 큰 감명을 준, 인상깊은 책이었기 때문이다. 물론 페르마의 마지막 정리를 풀기 위해 와일이 30년동안 고군분투한 인생자체가 감동적이긴 하지만, 그걸 전달하는 필자의 솜씨또한 정말 매력적인 것이었다. 저번 학기에 공대생들에게 강의하는 해석학을 수강했던지라, 내용들이 어렵긴 해도 부분적으로 이해가 가는 것들이 많았다. 내용은 차치하고서라도, 그걸 전달하는 지은이의 간결하고도 수학적 우아함을 잃지 않는 솜씨는 정말 인정해 줘야 한다는 생각이 들었다. 카발라의 역사적 배경을 설명하는 부분도 전혀 지루하지 않았다. 어떤 책은 수학자의 배경, 그 수학자가 탄생한 나라의 역사적 배경을 설명하는 데에 지나친 분량을 할애하는 일이 많다.이런 일은 필요하지 않다. 그리고 하나의 수학적 개념을 소위 대중적으로 설명하기 위해 별의별 사례를(예를 들어 모책에서는 괴델의 정리를 초콜렛 케이크를 예를 들어 지루할 정도로 2,3페이지에 걸쳐 설명하는 등)들어 전개해 나가는 데에는 정말이지 질렸다. 수학을 애호하는 사람들의 공통점은 내가 생각하기에 단도직입성, 우아함, 수학의 미적 속성에 대한 선호이다. 지은이는 증명자체를 거론하지는 않지만, 기가 막히게 이런 조건들을 만족시키는 것 같다.

인간은 얼마나 많은 수를 셀 수 있을까? 1시간이 3,600초. 하루면 86,400초. 1년이면 315,360,000초. 사람이 80년을 산다고 가정하면 평생은 2,522,880,000초. 엄청난 수다. 25억 2288만 초. 여기다 우리가 1초에 5정도 셀 수 있다고 가정하면, 80년...

인간은 얼마나 많은 수를 셀 수 있을까? 1시간이 3,600초. 하루면 86,400초. 1년이면 315,360,000초. 사람이 80년을 산다고 가정하면 평생은 2,522,880,000초. 엄청난 수다. 25억 2288만 초. 여기다 우리가 1초에 5정도 셀 수 있다고 가정하면, 80년을 산다고 가정했을 때 평생 쉬지 않고 수를 세면 12,614,400,000까지 셀 수 있다는 계산이 나온다. 실로 어마어마한 수다. 그런데 우리 인간은 이보다 훨씬 더 큰 수에 대한 개념도 가지고 있다. 당장에 한국 최고의 재벌들이 가지고 있는 재산만 해도 121억 정도의 수 개념으로는 계산이 불가능하지 않은가? 인간은 얼마나 큰 수 개념을 가질 수 있을까? 흔히 말하는 무한? 이 책에서 다루는 주된 내용이 무한에 관한 수학자들의 연구다. 게오르그 칸토어의 연구를 중심으로 무한의 개념이 어떻게 연구되어 왔는지를 간략하게 설명한다. 책 서두부분에서는 무한에 대한 유대교 신비주의자들의 연구부터 소개하여, 마지막에는 칸토어, 괴델과 같은 유명한 수학 천재들의 연구까지 소개한다. 실로 무한에 대한 방대한 수학사를 보는 듯하다. 칸토어라는 수학자에 대한 설명도 재미가 있다. 얼마나 공부가 아니 연구가 재미있었으면 자신의 연구를 신이 내려준 계시고 착각할 수 있을까? 아니 어떻게 하면 미쳐버릴 정도로 한 가지 대상을 연구할 수 있을까? 무한이라는 개념이 가진 신비한 속성은 차치하더라도 칸토어라는 수학자의 연구에 대한 집념을 높이 평가해야 하지 않을까 하는 생각으로 놀라움을 금할 수 없다. 이 책에서 칸토어의 연구를 소개하지만 상당한 정도의 수학지식이 없으면 그 내용을 다 이해하기는 어려울지 모르겠다. 히브리 문자 알레프를 사용하여 무한에도 서로 다른 차원이 존재한다는 칸토어의 주장을 이해하려면 이 책에서 소개하는 여러 가지 수학적 개념들을 이해하면서 읽어야 한다는 책읽기의 버거움도 있다. 하지만 우리가 일생을 살면서 언제 무한이라는 개념에 관심을 가져 보겠는가? 현실과는 완전히 동떨어진 순수한 이성의 세계에서 놀아볼 일이 얼마나 되겠는가? 이 책 한 권 읽으면서 현실세계에서 받는 여러 스트레스들로부터 잠시 도피하면 어떨까라는 생각도 해 본다.