수학자가 들려주는 진짜 논리 이야기 : 복잡한 세상에 정확한 판단이 필요한 순간

송용진

서울대수학과에서이학사를받고,오하이오주립대에서위상수학분야이학박사를받았다.1991년부터인하대수학과교수로재직중이다.20여년간국제수학올림피아드한국대표단단장또는부단장을맡으며대한민국이두차례1등을거머쥐는데기여했다.현재국제수학올림피아드선출직위원IMOBoardMember이다.30여년간풀리지않던해러의추측문제를해결한연구성과와수학영재교육에헌신한공로등을인정받아과학기술훈장혁신장,서울시문화상을받았다.국제적인위상수학자이면서한편으로최고의수학영재들을가르치며우리나라수학발전에기여해왔다.지은책으로《수학은우주로흐른다》,《조합론》등이있다.

시작하며

1부왜논리인가
01논리와친해지기
논리는머리가아니라몸으로익히는것/논리적사고의시작,인정할것은인정하기/현대인의필수능력,판단력과분별력/학생들은미래에대해조급해할필요가없다
02정확함이라는미덕
가르친다는사람,가르킨다는사람/우리말의어려움/한자어로인한어려움
03따지기와지적하기
따지는것과친해지기/지적문화/주변에서마주하는사소한불합리들

제2부논리적사고
04논리학의기본
그리스와아라비아의수학과논리학/명제와논증/논리의시작은‘모든’과‘어떤’
05학교에서배우는논리와수학
학교에서집합을안배워요/수학은원래어렵다/새로운개념받아들이기/토론을잘하려면
06논리학과수학
논리학,집합론,수학기초론/기호의힘/논리적사고의예
07패러독스이야기
제논의패러독스/러셀의패러독스/베리의패러독스/상트페테르부르크패러독스/바나흐·타르스키패러독스
08여섯가지유형의오류
성급한일반화의오류/이분법적논리의오류/필요조건,충분조건의혼동에의한오류/잘못된가정에의한오류/확증편향의오류/과학적소양부족에의한오류

제3부현대논리학의발전
09새로운논리학의시작
19세기독일의발전/고틀로프프레게/주세페페아노/버트런드러셀
10수리논리학의발전
새로운논리학의네가지특징/칸토어,무한에대해말하다/논리주의,형식주의,직관주의/괴델의불완전성정리와형식주의의붕괴
11현대의논리학
위대한논리학자타르스키/ZF공리계와선택공리/튜링머신과계산가능성

제4부수학품은논리학
12원소들의모임,집합
집합을알려면기호부터알아야한다/모든부분집합의집합,멱집합
13무한의이해
무한을이해하려면함수부터알아야한다/무한집합에도크고작은것이따로있다/무한집합론의핵심칸토어의정리/무리수는유리수보다더많다/합집합논법

찾아보기

지적문화,그리고제논의패러독스와러셀의패러독스

책의제1부에서는논리가중시되지않는우리나라의문화에대해이야기한다.저자는상대방의잘못을지적하는‘지적문화’의예를든다.미국,영국,일본등은우리나라보다지적문화가훨씬강하다.저자는미국유학당시사람들이줄을서는모습을보고문화수준의차이를실감했다.그때맥도날드에서는누군가줄을서지않고그냥계산대로다가가면주문받는종업원이당장눈을부라리며줄을서라고소리를질렀다.이처럼지적문화가일상화되어있기때문에줄을서지않을수없었던것이다.영국에서도비슷한경험이있었다.영국에서장기체류할때대중교통이불편하여자전거가게에서자전거를산적이있었다.그리고가게에서나와새자전거를타고찻길까지넓은인도를대각선으로약20미터정도가로질러가는데,갑자기어떤신사가소리를지르며뛰어왔다.불과몇초라고할지라도자전거는찻길로다녀야하는데왜인도로다니느냐며저자의행동을지적한것이었다.이처럼지적하는문화가강한나라에서자란사람들은평소정확성을추구할수밖에없는데우리는이런부분이부족하다는것이다.

제2부에서는고대그리스와아라비아로부터이어져오는수학과논리학의역사를소개하는한편,논리적사고법의아주기초적인부분에관해이야기한다.또한논리에서역사적으로중요하고유명한다섯가지패러독스도소개한다.그패러독스들중2개만예를들어보자.먼저제논의페러독스다.이패러독스에서는제논이‘어떤물질이운동하는것은우리의환상일뿐실은(매순간)멈춰있는것이다’라고주장하며제시했는데,달리기이야기로그패러독스를설명해보자.

올림피우스가달리기할때,그는결승점까지거리의중간지점을지나야하고,그다음에는나머지거리의중간지점을지나야하고,또그다음에는그나머지거리의중간지점을지나야하는과정을계속해서반복해야한다.따라서올림피우스는결승점에가까워지긴하지만결승점에이르지는못한다.

이패러독스는결승점까지남은거리의중간지점까지도달하는과정을‘무한히’반복해야결승점에도달할수있는데‘유한한’횟수의과정만살펴보고는결국도달할수없다는결론을지은것이다.결국‘유한적사고로무한적현상을설명하려고한것’때문에생긴오류다.
다음은러셀의패러독스다.러셀의패러독스를설명하고자드는예가운데가장유명한예는‘이발사의패러독스’이다.

어느마을에이발사가있다.그이발사가“나는스스로수염을깎지않는모든마을사람의수염을깎는다”라고말했다.그럼그이발사자신의수염은누가깎을까?
(ⅰ)스스로깎는다면,스스로깎지않는사람만을깎는다는사실에모순이되고,
(ⅱ)스스로깍지않는다면,스스로깎지않는모든사람을깎아준다는말에모순이된다.

러셀의패러독스처럼자기자신에대한부정적언급으로부터모순이발생하는예로는‘거짓말쟁이패러독스’가있다.고대그리스의철학자이자시인인에피메니데스는다음과같이말했다고한다.“모든크레타섬사람은거짓말쟁이다.”그런데문제는이말을한에피메니데스자신이크레타섬사람이라는것이다.그러면에피메니데스가한이말이맞는말일까,아니면틀린말일까?우선이단순한문장을다음과같이좀더분명하게다듬는과정이필요하다.그러니까이말을“모든크레타섬사람이하는말은모두틀린말이다”라고바꾸어생각해보자.그러면이말은맞는말일수가없게된다.왜냐하면만일이말이맞는말이라면,이말은크레타섬사람인에피메니데스가한말이므로틀린말이되기때문이다.

칸토어에서타르스키까지현대논리학을만든거인들

제3부에서는19세기말부터20세기초까지칸토어,힐베르트,프레게,러셀,화이트헤드,비트겐슈타인,괴델,타르스키등당대최고의천재들이이룬현대논리학과분석철학의발달과정과그의미에관해설명한다.2000년이넘는시간동안모든학문의기초적바탕을이루어온논리학이19세기후반부터는독일의수학자들을중심으로그전보다더독립적이고체계적인학문분야로거듭나게된다.프레게는수학적개념들,심지어는수數조차도완전하고구체적인논리에따라정의해야한다고주장했다.또한논리적서술에필요한형식적(주로기호화된)언어를만들고자했으며,산술의체계를논리학에서유도하려고노력했다.집합론의창시자칸토어는오랫동안수학과논리학에서금기시해온‘무한’이라는개념을논리적으로다룰수있다는것을보여주며자연스럽게집합이논리학에서얼마나중요한개념인가를알려주었다.

체계적이고엄밀한현대논리학은수리논리학또는기호논리학이라고도부른다.이는철학자와수학자가공유하던고전논리학과구별하기위함이다.수리논리학은집합,연산,함수,무한등과같은수학적개념을포함한집합론을근간으로하므로그러한배경지식이없는사람들은그내용을이해하기어려운학문이다.그래서논리학은자연스럽게수학자가연구하는수리논리학과철학자가연구하는논리학으로양분되었다.논리학은철학이나언어학을연구하는데중요한배경지식이므로철학자와언어학자가필수적으로공부하는학문이긴하지만,현대논리학을그자체로하나의독립된학문분야로서연구하는것은결국수학자의몫이되었다.그것은통계학이경제학과같은사회과학연구에꼭필요한지식이어서사회과학자가되려면통계학이라는과목을필수로이수해야하지만,통계학자체를전문적으로연구하는것은통계학자의몫인것과유사하다고하겠다.

수학내에서는논리학을‘수학기초론’이라고도부른다.논리학은지난100년간힐베르트의형식주의철학에입각하여수학의가장좋은기초를세우는것을목표로발전해왔기때문이다.그런데수학기초론에는중요한결점이있다.논리적으로완벽한산술체계는존재하지않는다는점이다.1931년오스트리아의젊은수학자괴델은‘불완전성정리’를발표하여세상을깜짝놀라게하며아인슈타인만큼이나유명한사람이되었다.당시현대논리학을개척한최고의수학자들인힐베르트,페아노,러셀등은완벽한논리체계를구성하고자했다.그런데괴델은그것이불가능함을보여준것이다.

이불완전성정리가발표되었을때는물리학에서양자역학이라는새로운패러다임이주류로자리잡기시작하고,이미하이젠베르크의불확정성원리가알려진시기여서당시의지식인들은“세상에는완전하고확실한진리는존재하지않는다”라는새로운세계관을갖게되었다.이것은자연과학뿐만아니라철학이나경제학과같은학문에도커다란영향을미치게된다.완벽함과엄밀함을추구하는논리학이수학의좋은기초를세우고자발전해왔지만,논리적으로완벽한수학의기초자체가존재할수없다는것을논리를통해증명한것은참으로아이러니하다.논리의세계가완벽하지도않고수학자가논리에만의존하지도않지만,수학의좋은기초를찾아내려고지금도전세계적으로많은논리학자가활발하게연구하고있다.대다수수학자는의식적이든무의식적이든힐베르트가추구하던수학의형식주의의방향을따르고있다.그길의끝에수학자들이찾는최종목표가존재하지않는다는것을알지만,그방향이옳은방향이라고믿고가고있는것이다.

제4부에서는합집합,교집합,함수,수열등과같은수학에서사용하는기초적인개념과기호그리고수학적귀납법등을설명하고그러한개념들이명제와논증에어떻게활용되는지를소개한다.또한칸토어의집합론을통해구체적으로무한이라는개념을어떻게논리적으로다룰수있는지도설명한다.여기서무한은무한집합을의미하며‘무한히원소가많은집합’이라는뜻이다.무한에는큰무한과작은무한이있다.왜실수중에무리수가유리수보다더많은지,큰무한은작은무한보다얼마나더큰지,어느집합안에원소가너무많으면어떤문제가생기는지등에대해서도설명한다.

우리삶의균형을위한논리수업

흔히논리라고하면논쟁을벌일때쓰이는도구정도로만인식하는경향이있다.그러나진짜논리는자신의생각을가다듬기위한것이다.자칫감정에치우쳐일을그르칠수있는경우에도평소이성을통한논리적훈련이잘되어있다면문제를풀수있는실마리와훌륭한균형점을찾을수있다.특히나감성문화는발달해있지만논리문화는취약한우리사회에꼭필요한책이다.독자들의일독을권한다.