■ 리만의 상상 속 수학 거울 - 리만 가설을 증명하는 사람에게 걸린 100만 달러의 상금
“이 수열은 과연 무엇일까? …59, 61, …, 67, …, 71, … 이것들은 모두 소수가 아닌가?” 작은 흥분으로 인한 소란이 통제실을 감돌았다. 뭔가 깊은 것에 닿은 느낌으로 엘리의 얼굴도 잠시 떨렸다. 하지만 그녀의 표정은 곧 헛된 상상으로 빠지는 데 대한 두려움 그리고 이런 생각이 비과학적이며 어리석게 보일 수도 있다는 자각에 따라 냉정을 되찾았다.
-칼 세이건(Carl Sagan), 영화 <콘택트(Contact)> 중에서
리만 (1850년) 리만은 겨우 서른두 살의 나이로 수학자 최고의 영예를 안았다. 1859년 8월 베를린학술원의 회원이 된 것이다. 리만은 당시의 관례대로 자신이 연구하던 주제로 논문을 작성하여 학술원에 제출했다. 일상적인 산술에 관한 내용을 담은 그 논문의 제목은 <주어진 수보다 작은 소수의 개수에 관한 연구>였다. 여기서 리만은 논문의 주제를 부각시키기 위해 다음과 같은 질문을 던졌다. “20 미만의 숫자들 중 소수는 몇 개인가?” 답은 2, 3, 5......
[ 출판사서평 더보기 ]
■ 리만의 상상 속 수학 거울 - 리만 가설을 증명하는 사람에게 걸린 100만 달러의 상금
“이 수열은 과연 무엇일까? …59, 61, …, 67, …, 71, … 이것들은 모두 소수가 아닌가?” 작은 흥분으로 인한 소란이 통제실을 감돌았다. 뭔가 깊은 것에 닿은 느낌으로 엘리의 얼굴도 잠시 떨렸다. 하지만 그녀의 표정은 곧 헛된 상상으로 빠지는 데 대한 두려움 그리고 이런 생각이 비과학적이며 어리석게 보일 수도 있다는 자각에 따라 냉정을 되찾았다.
-칼 세이건(Carl Sagan), 영화 <콘택트(Contact)> 중에서
리만 (1850년) 리만은 겨우 서른두 살의 나이로 수학자 최고의 영예를 안았다. 1859년 8월 베를린학술원의 회원이 된 것이다. 리만은 당시의 관례대로 자신이 연구하던 주제로 논문을 작성하여 학술원에 제출했다. 일상적인 산술에 관한 내용을 담은 그 논문의 제목은 <주어진 수보다 작은 소수의 개수에 관한 연구>였다. 여기서 리만은 논문의 주제를 부각시키기 위해 다음과 같은 질문을 던졌다. “20 미만의 숫자들 중 소수는 몇 개인가?” 답은 2, 3, 5, 7, 11, 13, 17, 19, 즉 8개이다. 그렇다면 1000 미만의 숫자들 중에는 소수가 몇 개나 있을까? 100만보다 작은 소수의 개수는? 소수를 일일이 세는 중노동으로부터 우리를 구제해 줄 일반적인 규칙이 과연 존재할 것인가?
리만이 그의 논문에서 짧게 언급했던 추측은 후에 ‘리만 가설’이라는 이름으로 불리면서 20세기 수학자들을 괴롭혔다. 지금도 그 사실 여부는 증명되지 않았다. 페르마의 마지막 정리(1637년 제기, 1994년 풀림)와 4색 문제(1852년 제기, 1976년 풀림)를 비롯하여 그동안 세간의 관심을 집중시킨 수학 문제는 많았다. 최근에 러시아의 수학자 그리샤 페렐만에 의해 푸앵카레 추측이 해결됨으로써 새롭게 증명에 추가 되었다. 그 중에서도 전문 수학자들이 가장 많은 관심을 가지고 있는 미해결 문제는 단연 리만 가설이다.
수학자들은 20세기를 리만 가설과 씨름하면서 다 보냈다. 그로부터 100년 후인 2000년 수학월간지《아메리칸 매스매티컬 먼슬리》1월 호에 실린 ‘21세기 도전 과제’ 중 첫 번째가 리만 가설이었다. 이를 위해 클레이수학연구소와 미국수학연구소가 설립됐다. 클레이수학연구소는 리만 가설이 참(또는 거짓)임을 증명하는 사람에게 100만 달러의 상금을 주기로 했다. 미국수학연구소도 리만 가설을 주제로 전 세계의 수학자들이 참석하는 학회를 꾸준히 개최해 오고 있다.
■ 리만 가설, 왜 중요한가?
아무리 추상적이라도 언젠가 현실 세계에 적용되지 않을 수학 분야는 존재하지 않는다.
-로바체프스키(Nikolai Ivanovich Lobachevsky, 1792-1856)
리만 가설은 증명이 어렵기도 하지만 그 파급 효과가 엄청나다. 지금도 전 세계 수학자들이 그 증명에 일생을 바치고 있다. 만일 이 가설이 증명된다면 정수론부터 시작해서 수학계에는 일대 혁명의 바람이 불어 닥칠 것이다. 불특정 소수 배열의 패턴을 설명하는 리만 가설이 풀릴 경우 현재 쓰이고 있는 공개키 암호 체계가 무용지물이 될 수 있다.
현재 전 세계에서 통용되는 ‘공개키 암호’는 매우 큰 인수분해를 기본 원리로 하고 있다. 수십 자릿수의 소수 2개를 곱해 만든 아주 큰 자연수가 공개키가 되는 것이다. 이를 사용해 메시지를 암호문으로 만드는 것이 공개키 암호다. 이렇게 한번 만들어진 암호문은 처음의 소수를 알아야만 메시지로 변환할 수 있다. 이 공개키 암호는 현재 신용카드, 은행예금 인출, 이메일 송수신, 휴대폰 사용뿐 아니라 기업이나 국방외교의 기밀을 보장하는 데 유용하게 쓰이고 있다.
소수 이론의 경우, 아다마르의 이야기는 설득력이 있지만 하디의 주장은 더 이상 적용되지 않는다. 1970년대에 이르러 암호학에 소수가 도입되면서 인류의 운명을 좌우하기 시작했기 때문이다. 이러한 기류를 타고 큰 소수의 판별법과 엄청나게 큰 수를 소수의 곱으로 분해하는 방법, 거대한 소수를 생성하는 방법 등이 본격적으로 연구되기 시작했다. 즉, 지난 20년 동안 소수는 매우 실용적인 연구 대상으로 취급되어 온 것이다. 지금도 소수는 인터넷으로 신용카드를 사용할 때 없어서는 안 될 존재이다. 그러므로 리만 가설이 증명된다면 그 파급 효과는 매우 크게 나타날 것이다. “리만 가설이 참이라면…”으로 시작하는 수많은 정리들이 새 생명을 얻는 것은 물론이고, 다양한 후속 발견·발명들이 그 뒤를 이어 홍수처럼 쏟아질 것이다. 또한 물리학자들이 ‘리만 역학’을 구축하는 데 성공한다면 물리적 세계에 대한 우리의 이해 방식도 커다란 변화를 겪게 될 것이다. 그러나 이 모든 변화 뒤에 어떤 후속 결과가 나타날지는 아무도 알 수 없다. 제아무리 위대한 학자라 해도 사정은 마찬가지다. (본문 470-471쪽, 제22장 참인가, 거짓인가)
■ 무질서의 소수에서 질서의 영점으로 - 인간의 정신이 창조해 낸 가장 위대한 산물
수학자의 패턴은 미술가나 시인의 패턴처럼 아름다워야 한다. …제일의 기준은 아름다움이다.
-영국 수학자 하디(Godfrey Harold Hardy, 1877-1947)
리만 가설에 따르면 자연수 세계에서는 무질서처럼 보이던 소수의 집합이 복소수 세계에서는 하나의 직선 위에 정렬한다. 그리고 이는 마치 잡다한 현실과 아득한 추상의 세계를 왕복해 오던 수학에 내재하는 깊은 연결 고리를 드러내 보여 주는 듯하다. 가우스의 소수추론(Prime Number Conjecture)을 증명하여 소수정리(Prime Number Theorem)가 되게 한 프랑스 수학자 아다마르(Jacques Salomon Hadamard, 1865-1963)가 남긴 “실공간의 두 진리를 잇는 지름길은 때로 허공간을 지난다”는 말도 이런 관점을 가리킨다.
누구보다도 상상력이 풍부했던 베른하르트 리만은 복소함수를 이런 식으로 가시화시켰다. 제곱함수의 경우, 일단 정상적인 복소평면을 머릿속에 그린 후에 음의 실수축(원점에서 시작하여 왼쪽으로 뻗어 나가는 직선)을 따라 복소평면을 가위로 자른다. 이 상태에서 평면의 위쪽 반을 손으로 잡고 원점을 회전축 삼아 반시계 방향으로 잡아 늘이면서 360° 돌린다(지금 우리의 복소평면은 신축성이 무한인 고무판임을 상기하라). 그런데 지시대로 잡아 늘이다 보면 180° 돌아갔을 때 문제가 발생한다. 복소평면의 끝이 자기 자신과 다시 만나는 것이다! 그러나 우리의 복소평면은 방해물을 마음대로 통과하는 신기한 재질로 되어 있으므로 걱정할 것 없다. 이런 식으로 360° 회전이 완료되면 잡아 늘인 복소평면의 끝은 방금 전에 가위로 잘랐던 경계선과 다시 만나면서 그림 13-3과 같은 형태가 된다. 이것이 바로 제곱 함수를 통해 변형된 복소평면의 모습이다. 이것은 함수 z²을 눈으로 확인하기 위해 그냥 재미 삼아 한번 해 본 단순한 변형이 아니다. 풍부한 상상력의 소유자였던 리만은 이로부터 ‘리만 곡면 이론’이라는 새로운 이론 체계를 만들어 냈고, 그로부터 복소함수에 대한 깊은 이해를 도모함과 동시에 강력한 계산법을 개발할 수 있었다. 뿐만 아니라, 리만 곡면 이론은 함수론과 대수학, 그리고 위상기하학을 하나로 통합함으로써 20세기 수학이 비상할 수 있는 초석을 제공하였다. 풍부하고 대담한 상상력과 치밀한 논리의 산물인 리만 곡면 이론은 인간의 정신이 창조해 낸 가장 위대한 산물이라 해도 결코 과언이 아니다. (본문 292-293쪽, 제13장 변수 개미와 함수 개미)
리만은 현대물리학과 상대성이론에서 너무나 중요한 비유클리드 기하학을 창시한 수학자다. 아인슈타인이 상대성이론에서 중력현상을 위해 사용한 ‘휘어진 공간’에 대한 기하학을 고안해냈다. 만일 리만의 이와 같은 업적이 없었다면 아인슈타인은 상대성이론을 만들어내지 못했을 것이다. 리만은 복소함수의 ‘리만 곡면’을 만들어냈는데 이는 과거로의 시간 여행이 가능해지도록 맞아떨어지게 하는 그림과 같다고 할 수 있다.
■『리만 가설』, 수학 역사상 가장 값진 보물
리만 가설은 소수를 음악으로 풀어쓸 수 있다는 뜻의 수학적 저술이다. 소수에 음악이 들어 있다는 말은 이 수학적 정리의 시적 표현이다. 하지만 고도의 포스트모던 음악이다.
-마이클 베리(Michael Berry), 브리스틀대학 교수
페르마의 마지막 정리나 4색 문제와는 달리, 리만 가설은 내용 자체가 어렵기 때문에 수학을 전공하지 않은 일반인들에게는 그다지 친숙한 문제가 아니다. 난해한 수학 이론을 배경으로 하고 있는 리만 가설을 간단하게 표현하면 다음과 같다.
리만 가설
제타 함수의 자명하지 않은 모든 근들은 실수부가 1/2이다.
고등교육을 제대로 받았다 해도 수학을 전공하지 않은 사람들에게는 아프리카 토속어 수준이다. 본문에서는 이러한 가설이 나오게 된 역사적 배경과 관련 인물들을 소개한다. 이에 더해 리만 가설을 이해하기 위한 수학적 배경 지식들도 단계적으로 도입한다. 수학을 전공하지 않은 일반 독자들도 리만 가설을 쉽게 이해할 수 있도록 관련 정보들을 가능한 쉬운 형태로 제공하고 있다. 홀수 번호가 붙은 장에서는 수학적인 내용들을 주로 다루고 있다. 리만 가설을 수학적으로 이해하고 그 중요성을 인식할 수 있도록 돕는다. 짝수 장은 주로 역사적인 배경과 관련 인물들에 관한 내용을 담고 있다. 이 책은 지적인 자극을 즐기고 호기심이 많은 ‘비수학적인’ 독자들을 위한 것이라고 저자는 말한다.
물론 이런 식으로 말하면 당장 의문이 떠오를 것이다. 비수학적인 독자란 어떤 사람을 의미하는가? 이 책을 읽으려면 어느 정도의 수학적 지식을 갖추고 있어야 하는가? …나는 고등학교 수학 과정을 성공적으로 마치고 대학에서 수학 관련 과목을 한두 개 정도 수강한 사람들의 수준에 맞춰서 이 책을 썼다. 원래 이 책의 목적은 ‘수식을 전혀 사용하지 않고’ 리만 가설을 설명하는 것이었다. 그러나 책을 쓰다 보니 수식 없이는 설명 불가능한 부분이 필연적으로 등장하여, 세 개의 장에 걸쳐 미적분학의 기초를 나열할 수밖에 없었다. (본문 中 서문)
그 외에 등장하는 수학은 괄호곱셈 등 기초 대수학의 범위를 넘지 않는다. 이 책에는 리만 가설을 이해하기 위해 요구되는 최소량의 수식만이 실려 있다. 이보다 더 간단한 수학으로 리만 가설을 설명할 수는 없을 것이다.
[ 출판사서평 더보기 닫기 ]
맞춤추천페이지를 이용하시려면 로그인을 해주세요
[총 0건] 
이책의 원서
