■리만의상상속수학거울-리만가설을증명하는사람에게걸린100만달러의상금
“이수열은과연무엇일까?…59,61,…,67,…,71,…이것들은모두소수가아닌가?”작은흥분으로인한소란이통제실을감돌았다.뭔가깊은것에닿은느낌으로엘리의얼굴도잠시떨렸다.하지만그녀의표정은곧헛된상상으로빠지는데대한두려움그리고이런생각이비과학적이며어리석게보일수도있다는자각에따라냉정을되찾았다.
-칼세이건(CarlSagan),영화<콘택트(Contact)>중에서
리만(1850년)리만은겨우서른두살의나이로수학자최고의영예를안았다.1859년8월베를린학술원의회원이된것이다.리만은당시의관례대로자신이연구하던주제로논문을작성하여학술원에제출했다.일상적인산술에관한내용을담은그논문의제목은<주어진수보다작은소수의개수에관한연구>였다.여기서리만은논문의주제를부각시키기위해다음과같은질문을던졌다.“20미만의숫자들중소수는몇개인가?”답은2,3,5,7,11,13,17,19,즉8개이다.그렇다면1000미만의숫자들중에는소수가몇개나있을까?100만보다작은소수의개수는?소수를일일이세는중노동으로부터우리를구제해줄일반적인규칙이과연존재할것인가?
리만이그의논문에서짧게언급했던추측은후에‘리만가설’이라는이름으로불리면서20세기수학자들을괴롭혔다.지금도그사실여부는증명되지않았다.페르마의마지막정리(1637년제기,1994년풀림)와4색문제(1852년제기,1976년풀림)를비롯하여그동안세간의관심을집중시킨수학문제는많았다.최근에러시아의수학자그리샤페렐만에의해푸앵카레추측이해결됨으로써새롭게증명에추가되었다.그중에서도전문수학자들이가장많은관심을가지고있는미해결문제는단연리만가설이다.
수학자들은20세기를리만가설과씨름하면서다보냈다.그로부터100년후인2000년수학월간지《아메리칸매스매티컬먼슬리》1월호에실린‘21세기도전과제’중첫번째가리만가설이었다.이를위해클레이수학연구소와미국수학연구소가설립됐다.클레이수학연구소는리만가설이참(또는거짓)임을증명하는사람에게100만달러의상금을주기로했다.미국수학연구소도리만가설을주제로전세계의수학자들이참석하는학회를꾸준히개최해오고있다.
■리만가설,왜중요한가?
아무리추상적이라도언젠가현실세계에적용되지않을수학분야는존재하지않는다.
-로바체프스키(NikolaiIvanovichLobachevsky,1792-1856)
리만가설은증명이어렵기도하지만그파급효과가엄청나다.지금도전세계수학자들이그증명에일생을바치고있다.만일이가설이증명된다면정수론부터시작해서수학계에는일대혁명의바람이불어닥칠것이다.불특정소수배열의패턴을설명하는리만가설이풀릴경우현재쓰이고있는공개키암호체계가무용지물이될수있다.
현재전세계에서통용되는‘공개키암호’는매우큰인수분해를기본원리로하고있다.수십자릿수의소수2개를곱해만든아주큰자연수가공개키가되는것이다.이를사용해메시지를암호문으로만드는것이공개키암호다.이렇게한번만들어진암호문은처음의소수를알아야만메시지로변환할수있다.이공개키암호는현재신용카드,은행예금인출,이메일송수신,휴대폰사용뿐아니라기업이나국방외교의기밀을보장하는데유용하게쓰이고있다.
소수이론의경우,아다마르의이야기는설득력이있지만하디의주장은더이상적용되지않는다.1970년대에이르러암호학에소수가도입되면서인류의운명을좌우하기시작했기때문이다.이러한기류를타고큰소수의판별법과엄청나게큰수를소수의곱으로분해하는방법,거대한소수를생성하는방법등이본격적으로연구되기시작했다.즉,지난20년동안소수는매우실용적인연구대상으로취급되어온것이다.지금도소수는인터넷으로신용카드를사용할때없어서는안될존재이다.그러므로리만가설이증명된다면그파급효과는매우크게나타날것이다.“리만가설이참이라면…”으로시작하는수많은정리들이새생명을얻는것은물론이고,다양한후속발견·발명들이그뒤를이어홍수처럼쏟아질것이다.또한물리학자들이‘리만역학’을구축하는데성공한다면물리적세계에대한우리의이해방식도커다란변화를겪게될것이다.그러나이모든변화뒤에어떤후속결과가나타날지는아무도알수없다.제아무리위대한학자라해도사정은마찬가지다.(본문470-471쪽,제22장참인가,거짓인가)
■무질서의소수에서질서의영점으로-인간의정신이창조해낸가장위대한산물
수학자의패턴은미술가나시인의패턴처럼아름다워야한다.…제일의기준은아름다움이다.
-영국수학자하디(GodfreyHaroldHardy,1877-1947)
리만가설에따르면자연수세계에서는무질서처럼보이던소수의집합이복소수세계에서는하나의직선위에정렬한다.그리고이는마치잡다한현실과아득한추상의세계를왕복해오던수학에내재하는깊은연결고리를드러내보여주는듯하다.가우스의소수추론(PrimeNumberConjecture)을증명하여소수정리(PrimeNumberTheorem)가되게한프랑스수학자아다마르(JacquesSalomonHadamard,1865-1963)가남긴“실공간의두진리를잇는지름길은때로허공간을지난다”는말도이런관점을가리킨다.
누구보다도상상력이풍부했던베른하르트리만은복소함수를이런식으로가시화시켰다.제곱함수의경우,일단정상적인복소평면을머릿속에그린후에음의실수축(원점에서시작하여왼쪽으로뻗어나가는직선)을따라복소평면을가위로자른다.이상태에서평면의위쪽반을손으로잡고원점을회전축삼아반시계방향으로잡아늘이면서360°돌린다(지금우리의복소평면은신축성이무한인고무판임을상기하라).그런데지시대로잡아늘이다보면180°돌아갔을때문제가발생한다.복소평면의끝이자기자신과다시만나는것이다!그러나우리의복소평면은방해물을마음대로통과하는신기한재질로되어있으므로걱정할것없다.이런식으로360°회전이완료되면잡아늘인복소평면의끝은방금전에가위로잘랐던경계선과다시만나면서그림13-3과같은형태가된다.이것이바로제곱함수를통해변형된복소평면의모습이다.이것은함수z²을눈으로확인하기위해그냥재미삼아한번해본단순한변형이아니다.풍부한상상력의소유자였던리만은이로부터‘리만곡면이론’이라는새로운이론체계를만들어냈고,그로부터복소함수에대한깊은이해를도모함과동시에강력한계산법을개발할수있었다.뿐만아니라,리만곡면이론은함수론과대수학,그리고위상기하학을하나로통합함으로써20세기수학이비상할수있는초석을제공하였다.풍부하고대담한상상력과치밀한논리의산물인리만곡면이론은인간의정신이창조해낸가장위대한산물이라해도결코과언이아니다.(본문292-293쪽,제13장변수개미와함수개미)
리만은현대물리학과상대성이론에서너무나중요한비유클리드기하학을창시한수학자다.아인슈타인이상대성이론에서중력현상을위해사용한‘휘어진공간’에대한기하학을고안해냈다.만일리만의이와같은업적이없었다면아인슈타인은상대성이론을만들어내지못했을것이다.리만은복소함수의‘리만곡면’을만들어냈는데이는과거로의시간여행이가능해지도록맞아떨어지게하는그림과같다고할수있다.
■『리만가설』,수학역사상가장값진보물
리만가설은소수를음악으로풀어쓸수있다는뜻의수학적저술이다.소수에음악이들어있다는말은이수학적정리의시적표현이다.하지만고도의포스트모던음악이다.
-마이클베리(MichaelBerry),브리스틀대학교수
페르마의마지막정리나4색문제와는달리,리만가설은내용자체가어렵기때문에수학을전공하지않은일반인들에게는그다지친숙한문제가아니다.난해한수학이론을배경으로하고있는리만가설을간단하게표현하면다음과같다.
리만가설
제타함수의자명하지않은모든근들은실수부가1/2이다.
고등교육을제대로받았다해도수학을전공하지않은사람들에게는아프리카토속어수준이다.본문에서는이러한가설이나오게된역사적배경과관련인물들을소개한다.이에더해리만가설을이해하기위한수학적배경지식들도단계적으로도입한다.수학을전공하지않은일반독자들도리만가설을쉽게이해할수있도록관련정보들을가능한쉬운형태로제공하고있다.홀수번호가붙은장에서는수학적인내용들을주로다루고있다.리만가설을수학적으로이해하고그중요성을인식할수있도록돕는다.짝수장은주로역사적인배경과관련인물들에관한내용을담고있다.이책은지적인자극을즐기고호기심이많은‘비수학적인’독자들을위한것이라고저자는말한다.
물론이런식으로말하면당장의문이떠오를것이다.비수학적인독자란어떤사람을의미하는가?이책을읽으려면어느정도의수학적지식을갖추고있어야하는가?…나는고등학교수학과정을성공적으로마치고대학에서수학관련과목을한두개정도수강한사람들의수준에맞춰서이책을썼다.원래이책의목적은‘수식을전혀사용하지않고’리만가설을설명하는것이었다.그러나책을쓰다보니수식없이는설명불가능한부분이필연적으로등장하여,세개의장에걸쳐미적분학의기초를나열할수밖에없었다.(본문中서문)
그외에등장하는수학은괄호곱셈등기초대수학의범위를넘지않는다.이책에는리만가설을이해하기위해요구되는최소량의수식만이실려있다.이보다더간단한수학으로리만가설을설명할수는없을것이다.
