Description
이 책은 수학철학을 오랫동안 공부해 온 한 사람이 인공지능의 시대를 맞이하면서, 수학은 어떤 학문이며 앞으로 어떤 학문으로 남게 될 것인가를 묻고 사유한 기록이다.
수학철학을 공부하는 이에게 인공지능의 등장은 단순한 기술적 사건이 아니다. 그것은 오랫동안 잠들어 있던 수학철학의 고전적 물음들을 한꺼번에 다시 일깨우는 사건이었다.
수학에 관하여 무언가를 안다는 것은 우리가 몸으로 무언가를 지각하고 느끼는 것과 어떻게 다른가. 수학이나 논리학에서의 증명은 여전히 선험적 활동이라고 말할 수 있는가. 수학적 대상은 발견되는 것인가, 아니면 인간에 의해 발명되고 개념적으로 구성되는 것인가.
이러한 물음들은 더 이상 순수한 철학적 사변에 머물러 있지 않다. 컴퓨터가 수학적 증명을 검증하고, 알고리즘이 정리를 탐색하며, 인공지능이 새로운 수학적 추론과 증명을 만들어 내는 시대가 되었기 때문이다. 우리는 이제 처음으로 ‘계산하는 존재’와 ‘생각하는 존재’ 사이의 경계를 진지하게 다시 묻게 되었다.
그러나 새로운 물음 앞에 서기 전에, 잠시 뒤를 돌아볼 필요가 있다. 지난 백여 년 동안 수학의 본질과 기초에 관한 문제는 어떻게 다루어져 왔는가. 그리고 그 논쟁은 오늘날 우리가 수학을 바라보는 방식에 어떤 흔적을 남겼는가.
20세기 초 수학의 기초를 둘러싼 위기 속에서 세 가지 커다란 수학철학적 기획이 등장했다. 이 책의 여정을 시작하기에 앞서, 먼저 이 세 가지 기둥을 간략하게 살펴보고자 한다.
첫째는 논리주의(logicism)이다.
프레게와 초기 러셀로 대표되는 논리주의는 수학이 궁극적으로 논리학으로 환원될 수 있다고 보았다. 수학적 개념은 순수한 논리적 개념을 통해 정의될 수 있으며, 수학적 정리는 논리적 원리와 정의로부터 연역될 수 있다는 것이다.
누구에게나 너무나 자명해 보이는 수(數)의 개념조차 집합과 논리적 관계를 통해 설명하려 했던 이 야심찬 기획은 수학의 기초를 새롭게 세우려는 시도였다. 그러나 프레게의 체계는 러셀이 발견한 역설에 의해 심각한 문제에 직면했고, 이후 러셀과 화이트헤드의 작업 등을 통해 논리주의적 기획은 새로운 형태로 이어지게 된다.
둘째는 형식주의(formalism)이다.
힐베르트가 이끌었던 형식주의는 수학을 일정한 규칙에 따라 기호를 조작하는 형식적 체계로 바라보았다. 수학적 대상이 실제로 무엇인가를 묻기보다, 주어진 공리와 규칙 안에서 어떤 명제가 증명 가능한지를 밝히는 것이 수학의 핵심이라는 것이다.
힐베르트는 이를 바탕으로 수학의 기초를 엄밀하게 형식화하고, 수학 체계의 무모순성을 유한한 방법으로 증명하려는 원대한 프로그램을 제시했다. 그러나 1930년대 괴델의 불완전성 정리는 충분히 강력한 형식체계에 관하여 이러한 기획이 생각했던 것보다 훨씬 근본적인 한계를 가지고 있음을 보여주었다.
그럼에도 형식주의의 유산은 사라지지 않았다. 오히려 그것은 현대의 증명론과 계산이론, 논리학, 그리고 컴퓨터 과학의 발전에 깊은 흔적을 남겼다.
셋째는 직관주의(intuitionism)이다.
네덜란드의 수학자 브라우어가 제창한 직관주의는 앞선 두 입장과 근본적으로 다른 길을 택했다. 수학적 대상은 인간 정신과 독립적으로 완성된 형태로 존재하는 것이 아니라, 인간의 정신적 활동 속에서 구성되는 것으로 보았다.
특히 브라우어는 시간의 흐름에 관한 근원적 직관을 수학적 구성의 출발점으로 보았다. 따라서 실제로 구성할 수 없는 대상에 대해서 존재를 함부로 주장해서는 안 된다고 생각했다. 그 결과 직관주의는 고전 논리의 중요한 원리인 배중률조차 일반적으로 받아들이지 않았다.
이러한 관점에서 수학은 이미 완성되어 어딘가에 존재하는 이데아의 세계라기보다, 인간의 정신적 활동 속에서 끊임없이 구성되어 가는 과정이었다.
이 세 가지 기획은 저마다의 방식으로 한계에 부딪혔다. 그러나 역설적이게도 바로 그 한계와 좌초의 자리에서 오늘날의 수학철학이 형성되었다.
20세기 후반 이후의 수학철학은 이 세 기둥 가운데 어느 하나를 단순히 선택하기보다, 그들이 남긴 문제를 새로운 언어로 다시 묻는 방향으로 발전해 왔다.
이 책에서 다루게 될 현대 수학철학의 몇 가지 흐름을 미리 살펴보면 다음과 같다.
먼저 구조주의(structuralism)는 수학적 대상이 독립적인 실체로 존재한다기보다 어떤 구조 안에서 차지하는 관계적 위치를 통해 이해될 수 있다고 본다. 예컨대 자연수 3은 그 자체로 고립된 어떤 대상이라기보다 자연수 구조 안에서 2와 4 사이에 위치하고 다른 수들과 특정한 관계를 맺는 대상으로 이해될 수 있다.
구조주의는 수학적 대상의 객관성을 인정하면서도 그것을 독립적인 실체로 이해해야 하는지에 대해서는 다른 가능성을 열어 놓는다. 그런 의미에서 플라톤주의적 실재론과 구성주의적 반실재론 사이에서 새로운 길을 모색하는 시도로 볼 수 있다.
다음으로 준경험주의(quasi-empiricism)와 자연주의(naturalism)가 있다. 라카토스와 콰인으로 대표되는 이러한 흐름은 수학을 다른 학문과 완전히 단절된 선험적 영역으로 바라보는 전통적인 관점에 의문을 제기한다.
수학적 지식 역시 오류 가능하며, 새로운 증거와 반례, 문제 해결 과정에 따라 수정되고 재구성될 수 있다는 것이다. 이러한 관점은 수학을 절대적으로 확실한 진리의 체계라기보다 인간의 지적 탐구 활동 가운데 하나로 이해하게 한다.
수학철학을 공부하는 이에게 인공지능의 등장은 단순한 기술적 사건이 아니다. 그것은 오랫동안 잠들어 있던 수학철학의 고전적 물음들을 한꺼번에 다시 일깨우는 사건이었다.
수학에 관하여 무언가를 안다는 것은 우리가 몸으로 무언가를 지각하고 느끼는 것과 어떻게 다른가. 수학이나 논리학에서의 증명은 여전히 선험적 활동이라고 말할 수 있는가. 수학적 대상은 발견되는 것인가, 아니면 인간에 의해 발명되고 개념적으로 구성되는 것인가.
이러한 물음들은 더 이상 순수한 철학적 사변에 머물러 있지 않다. 컴퓨터가 수학적 증명을 검증하고, 알고리즘이 정리를 탐색하며, 인공지능이 새로운 수학적 추론과 증명을 만들어 내는 시대가 되었기 때문이다. 우리는 이제 처음으로 ‘계산하는 존재’와 ‘생각하는 존재’ 사이의 경계를 진지하게 다시 묻게 되었다.
그러나 새로운 물음 앞에 서기 전에, 잠시 뒤를 돌아볼 필요가 있다. 지난 백여 년 동안 수학의 본질과 기초에 관한 문제는 어떻게 다루어져 왔는가. 그리고 그 논쟁은 오늘날 우리가 수학을 바라보는 방식에 어떤 흔적을 남겼는가.
20세기 초 수학의 기초를 둘러싼 위기 속에서 세 가지 커다란 수학철학적 기획이 등장했다. 이 책의 여정을 시작하기에 앞서, 먼저 이 세 가지 기둥을 간략하게 살펴보고자 한다.
첫째는 논리주의(logicism)이다.
프레게와 초기 러셀로 대표되는 논리주의는 수학이 궁극적으로 논리학으로 환원될 수 있다고 보았다. 수학적 개념은 순수한 논리적 개념을 통해 정의될 수 있으며, 수학적 정리는 논리적 원리와 정의로부터 연역될 수 있다는 것이다.
누구에게나 너무나 자명해 보이는 수(數)의 개념조차 집합과 논리적 관계를 통해 설명하려 했던 이 야심찬 기획은 수학의 기초를 새롭게 세우려는 시도였다. 그러나 프레게의 체계는 러셀이 발견한 역설에 의해 심각한 문제에 직면했고, 이후 러셀과 화이트헤드의 작업 등을 통해 논리주의적 기획은 새로운 형태로 이어지게 된다.
둘째는 형식주의(formalism)이다.
힐베르트가 이끌었던 형식주의는 수학을 일정한 규칙에 따라 기호를 조작하는 형식적 체계로 바라보았다. 수학적 대상이 실제로 무엇인가를 묻기보다, 주어진 공리와 규칙 안에서 어떤 명제가 증명 가능한지를 밝히는 것이 수학의 핵심이라는 것이다.
힐베르트는 이를 바탕으로 수학의 기초를 엄밀하게 형식화하고, 수학 체계의 무모순성을 유한한 방법으로 증명하려는 원대한 프로그램을 제시했다. 그러나 1930년대 괴델의 불완전성 정리는 충분히 강력한 형식체계에 관하여 이러한 기획이 생각했던 것보다 훨씬 근본적인 한계를 가지고 있음을 보여주었다.
그럼에도 형식주의의 유산은 사라지지 않았다. 오히려 그것은 현대의 증명론과 계산이론, 논리학, 그리고 컴퓨터 과학의 발전에 깊은 흔적을 남겼다.
셋째는 직관주의(intuitionism)이다.
네덜란드의 수학자 브라우어가 제창한 직관주의는 앞선 두 입장과 근본적으로 다른 길을 택했다. 수학적 대상은 인간 정신과 독립적으로 완성된 형태로 존재하는 것이 아니라, 인간의 정신적 활동 속에서 구성되는 것으로 보았다.
특히 브라우어는 시간의 흐름에 관한 근원적 직관을 수학적 구성의 출발점으로 보았다. 따라서 실제로 구성할 수 없는 대상에 대해서 존재를 함부로 주장해서는 안 된다고 생각했다. 그 결과 직관주의는 고전 논리의 중요한 원리인 배중률조차 일반적으로 받아들이지 않았다.
이러한 관점에서 수학은 이미 완성되어 어딘가에 존재하는 이데아의 세계라기보다, 인간의 정신적 활동 속에서 끊임없이 구성되어 가는 과정이었다.
이 세 가지 기획은 저마다의 방식으로 한계에 부딪혔다. 그러나 역설적이게도 바로 그 한계와 좌초의 자리에서 오늘날의 수학철학이 형성되었다.
20세기 후반 이후의 수학철학은 이 세 기둥 가운데 어느 하나를 단순히 선택하기보다, 그들이 남긴 문제를 새로운 언어로 다시 묻는 방향으로 발전해 왔다.
이 책에서 다루게 될 현대 수학철학의 몇 가지 흐름을 미리 살펴보면 다음과 같다.
먼저 구조주의(structuralism)는 수학적 대상이 독립적인 실체로 존재한다기보다 어떤 구조 안에서 차지하는 관계적 위치를 통해 이해될 수 있다고 본다. 예컨대 자연수 3은 그 자체로 고립된 어떤 대상이라기보다 자연수 구조 안에서 2와 4 사이에 위치하고 다른 수들과 특정한 관계를 맺는 대상으로 이해될 수 있다.
구조주의는 수학적 대상의 객관성을 인정하면서도 그것을 독립적인 실체로 이해해야 하는지에 대해서는 다른 가능성을 열어 놓는다. 그런 의미에서 플라톤주의적 실재론과 구성주의적 반실재론 사이에서 새로운 길을 모색하는 시도로 볼 수 있다.
다음으로 준경험주의(quasi-empiricism)와 자연주의(naturalism)가 있다. 라카토스와 콰인으로 대표되는 이러한 흐름은 수학을 다른 학문과 완전히 단절된 선험적 영역으로 바라보는 전통적인 관점에 의문을 제기한다.
수학적 지식 역시 오류 가능하며, 새로운 증거와 반례, 문제 해결 과정에 따라 수정되고 재구성될 수 있다는 것이다. 이러한 관점은 수학을 절대적으로 확실한 진리의 체계라기보다 인간의 지적 탐구 활동 가운데 하나로 이해하게 한다.
현대수학철학의 나침반 (인공지능 시대, 지능과 수학의 본성, 그리고 동서양 사유의 만남)
$20.33