현대수학입문 (힐베르트 문제를 중심으로 | 개정판)

김홍종

서울대학교수리과학부명예교수
대한수학회장역임
한국과학기술한림원회원
상산고등학교교장
주요저서《수리암호학개론》

연속체가설
산술공리의무모순성
삼각뿔의부피
직선과기하학
Lie의군론
무리수와초월수
소수
Diophantus방정식
이차형식
방정식의해법
불변량이론과유리함수
Schubert계산법
곡선의모양
양유리함수와제곱의합
결정분류문제
공쌓기
나머지문제들
부록

현대수학은놀랄만큼빠르게성장하여한명의수학자가모든분야를연구하는것은이미오래전불가능해졌으며미래의수학은더욱빠른속도로성장할것이예상된다.한편수학의영향력은점차확대되어가고있는데,컴퓨터과학,양자정보학,금융투자,인공지능에이르기까지더욱더많은사람들이수학의힘을깨달아서이제는수학의유용성에대해서대중에게설명할필요가없어진지오래다.
이러한눈부신변화는역설적으로수학을배우는학생들을곤란하게만드는데,대학에서4년을배우고도수학전체의내용을조망하는것이힘들고박사과정까지마쳐야겨우자신의연구주제에대해전문성을확보할수있을뿐이다.수학전체에대한시야를확보하고,향후수학이어떻게발전할지가늠하는것은수십년에걸쳐꾸준히연구해온수학자들에게도어려운일이되었다.
물리학에관심있는사람은물리학개론,화학은화학개론,생물학은생물학개론을읽으면대학신입생들도아주전문적인내용은말고라도대체적인흐름을파악하는데문제가없고각학문의현주소와방향성을확인할수있다.
수학을제외한이런학문들에는자연이제공하는뚜렷한목표와한계가존재하며새로운이론은기존의이론을대체하지만,현실의제약으로부터자유롭고무모순인한계속지식을늘려가는수학은인류가발견해낸가장방대하고심오한학문이되어수천쪽의분량으로도그러한시도자체가무의미하다.

그럼에도불구하고현대수학에대해조망하고그흐름을이해하고싶은학생들은어떻게해야할까?
다양한접근법이있을수있겠지만한가지유효한접근은수학자해리셀던의방법이다.현대수학이폭발적으로팽창하기직전,너무복잡하지않으면서도현대수학의배아들이한곳에모여있는순간에집중하는것이다.그순간이바로1900년세계수학자대회이고이때제시된Hilbert의23개의문제들이현대수학의배아들이라할수있다.
Hilbert는28세의나이에당대수학의최고봉으로꼽히던불변량이론의근본문제를해결하여일약세계적인스타로떠올랐다.그후로도정수론,기하학,수리물리학등에눈부신업적을이어갔고,1900년열린제2차세계수학자대회에초청받아,20세기를이끌어갈수학문제23개를발표하여현대수학의문을활짝열었다.
Hilbert가수학전체를조망하며수학전반에기여할수있었던마지막수학자였다고할수있으며이후수학은급속히팽창을계속하여앞서얘기했듯이어느한개인도수학의광대한영토를다경험할수는없게되었다.
그러므로해리셀던의방법으로수학에대해이해하고미래를예측하려한다면Hilbert를기준으로삼는것이가장적합할것이다.따라서Hilbert의문제들을소개하고그현주소를확인하는것은20년전이나지금이나마찬가지로유효하다.