버트런드 러셀(Bertrand Arthur William Russell, 1872 ~ 1970)의 <수리철학의 기초 Introduction to Mathematical Philosophy>는 제목 그대로 화이트 헤드(Alfred North Whitehead, 1861 ~ 1947)와 함께 만든 <수학 원리 Principia Mathematica> 입문서다. 수학을 기호논리학을 통해 재구성한 <수학 원리>처럼 이 책은 주로 집합론(集合論, set theory)과 논리학을 연계하여 다루고 있다. 그렇다면, 저자는 이 책을 통해 무엇을 말하고 싶었을까? 이 페이퍼에서는 이를 알아보려 한다. 러셀의 주장을 들어보기 전 우리는 먼저 다른 수학자를 만나야 하는데, 그는 바로 칸토어(Georg Ferdinand Ludwig Philipp Cantor, 1845 ~ 1918)다.
칸토어는 두 집합 A와 B사이에 전단사함수(bijection)가 존재하면 그들의 크기, 즉 "기수(cardinality)가 같다"라고 정의했다. 이는 A의 원소와 B의 원소 사이에 일대일대응(one-to-one correspondence)이 있다는 뜻이다. 만일 A와 B 사이에 전단사함수가 존재하지 않고 A와 B의 부분집합 사이에 전단사함수가 있으면 'A는 B보다 기수가 작다'라고 한다. 결국 칸토어가 보인 것은 모든 대수적 수의 집합의 기수가 모든 실수의집합의 기수보다 작다는 것이었다.(p1013)... 칸토어는 각각의 닫힌 집합(closed set)에 대해 Xα = Xα+1을 만족하는 가산 순서수 α가 있음을 증명했다.(p1013) <The Princeton companion to Mathematics 1> 中
집합론에 선구적인 업적을 쌓은 칸토어의 업적은 '적어도 둘 이상의 다른 종류의 무한 집합이 존재한다'는 것을 증명했다는 사실과 '초한기수'의 도입을 들 수 있을 것이다. 자연수 [0,1] 사이에 있는 소수의 개수와 { 1,2,3,4....n,,,}과 같은 집합은 둘 다 무한 집합이다. 이처럼 무한 집합은 무수히 많이 정의될 수 있다는 사실은 우리가 쉽게 알 수 있지만, '초한기수 transfinite cardinal number'라는 개념을 알기는 쉽지 않다. 이에 대해 저자의 설명을 보자.
귀납적 수와 이 새로운 수 사이에서 가장 뚜렷하고 놀라운 차이점은 이 새로운 수에 1을 더하거나 1을 뻬거나, 또는 2배를 하거나 반분하거나, 혹은 그것에 그 수를 반드시 크거나 작게 하는 것으로 생각되는 연산을 해도 그 수가 변화하지 않는다는 점이다. 그중에서 1을 더하여도 변치 않는 점을 칸토어가 '초한기수 transfinite cardinal number'라 부르는 수를 정의하는 데 이용하였다.(p90)... 어떤 집합이 1을 더하여도 변하지 않는 수를 갖는다는 것은, 그 집합에 포함되지 않는 하나의 항 x를 들었을 때 정의역이 그 집합이고, 역정의역이 그 집합에 x를 더한 것으로 이루어진 하나의 1대1 관계가 있다는 뜻이다.(p91) <수리 철학의 기초> 中
정의역이 그 집합이고, 역정의역이 그것보다 꼭 한 항이 작은 집합으로 이루어진 1대1인 관계가 있다. 바로 이 같은 것이 성립하는 경우와 겉보기는 더 일반적인 것같이 보이는 "'한 부분(전체가 아닌)'과 '전체' 사이에 1대1 관계가 주어진다"는 경우가 내용상 같다는 것을 쉽게 알 수 있다. 그 같은 대응이 성립할 경우, 우리는 그 대응을 만드는 매개자는 전체를 그것의 한 부분에 '반사한다'고 한다. 그래서 그 같은 집합을 '반사적 집합'이라 부른다. 즉 반사적 집합 reflexive class이란 자신과 자신의 진부분 집합이 대등한 집합을 뜻하며, 반사적 기수 reflexive number라 함은 반사적 집합의 기수를 말한다.(p91) <수리 철학의 기초> 中
그렇다면, 칸토어의 주장처럼 Xα = Xα+1을 만족하는 가산 순서수 α 그리고 자신과 자신의 진부분집합이 대등한 반사적 집합이 존재할 수 있을까? 이에 대한 러셀의 반론이 유명한 러셀의 역설(Russell's paradox)이다.
"최대기수에 관한 모순 contradiction of the greatest cardinal"에서도 논리형에 관한 이론이 필요한 것을 알 수 있다... 개체, 개체의 집합, 집합의 집합 등을 모두 하나로 묶으면 그것의 부분집합은 자신의 원소가 된다. 어떤 것이든 셀 수 있는 것은 모두 한데 묶어 하나의 집합으로 생각할 수 있으므로, 그 집합이 최대의 기수를 갖지 않으면 안된다. 실제로 그 집합의 부분집합은 모두 원래 집합의 원소이므로 그것의 부분집합의 수는 그들 집합의 원소의 수보다 크지 않다. 이는 하나의 모순이다... 모든 것을 한 묶음으로 한 매우 큰 집합은 자기 자신도 원소로 포함한다. 즉 '모든 것'이라는 것을 생각할 수 있다면 그 자신 역시 그 '모든 것' 중의 하나이므로, 그 '모든 것'의 집합의 원소가 될 것이다. 그러나 보통의 경우에서는 집합이 그 자신의 원소가 아니다. 예를 들면 인간의 집합, 즉 인류라는 것은 절대로 그것의 원소 어떤 한 사람의 인간이 아니다. 자신을 원소로 포함하지 않는 집합 전체를 생각하자. 틀림없이 이는 한 집합이다. 그러나 이 집합이 자신을 원소로 포함하는가? (p156) <수리 철학의 기초> 中
당시 칸토어를 좌절시킨 이러한 러셀의 공격이었지만, 현대 수학에서는 칸토어의 초한기수나 러셀의 역설 모두를 집합론에서 받아들이지 않고 있다는 점만 간단히 참고하도록 하고 다음 내용으로 넘어가 보자. (칸토어와 러셀의 이야기는 만화 <로지코믹스>에서도 쉽고도 재미있게 읽을 수 있다)
'순서수이다'라는 성질을 생각해보자. 만약 이 성질로 결정된 집합은 모든 순서수의집합이 될것이다. 하지만 잠시 숙고해보면 이 집합은 정렬집합으로서 모든 순서수보다 더 큰 순서수에 대응되어 모순이므로 존재될 수 없다. 비슷한 논리로 '자기자신을 원소로 가지지 않는 성질'도 집합을 결정할 수 없다. 왜냐하면 그렇지 않을 경우 A가 그러한 집합일 때 A가 A의 원소이기 위한 필요충분조건은 A가 A의 원소가 아니라는 러셀의 역설(Russell's paradox)에 빠지기 때문이다. 따라서 어떤 대상의 모임이 어떤 한 성질에 의해 결정되더라도 이 모임을 항상 집합으로 간주할 수는 없다.(p1018) <The Princeton companion to Mathematics 1> 中
<수리철학의 기초>는 초중반에 칸토어의 집합론에 대해 논박을 가하지만, 후반부에는 공격방향을 살짝 돌리는데, 그 대상은 바로 플라톤(Platon, BC 424 ~ BC 348)이다.
플라톤의 대화편 <파르메니데스 Parmenides>의 일절에 다음과 같은 논법이 있다. 만일 1과 같은 하나의 수가 있다면 그 수 1이 존재를 가지게 된다. 또한 그 수와 존재가 같은 것이 아니므로 1과 존재는 둘이 된다. 따라서 수 2가 된다. 이 2와 1의 존재를 합하면 3개의 원소를 갖는 집합이 된다. 이 같은 방법으로 이 논법을 끝없이 계속할 수 있을 것이다. 그러나 '존재'라는 말은 어떤 정해진 의미를 갖는 것이 아니고, 존재에 일정한 의미를 주었다 해도 수는 존재를 갖지 않기 때문에 이 논법은 잘못이다.(p158) <수리 철학의 기초> 中
<수리 철학의 기초>의 마지막 부분에서 플라톤의 '존재' 증명 방식에 대한 비판과 함께 저자는 기술(description)에 대한 논의를 잠시 언급하고 책을 마무리한다.
대체로 다음 두 가지를 비교해야 한다. 즉 (1) 이름, 이는 단순한 기호이고 그 기호가 의미하는 개체를 직접 가리킨다. 그리고 다른 낱말의 의미와는 완전히 독립해서 오직 그 자신의 권리에서 그것의 의미를 가지고 있는 것이다. (2) 기술, 이는 미리 뜻이 정해진 몇 개의 낱말로 구성되며, 그 기술의 의미에 의해 생각되는 것은 모두 그것을 구성하고 있는 낱말의 의미에서 도출되는 것이다.(p202) <수리 철학의 기초> 中
여기까지 읽고 나면, 한 가지 의문이 들 것이다. '이게 무슨 플라톤 비판이야?' 책을 보다 즐기기 위해 우리는 두 권의 책을 곁들어 읽을 필요가 있다. 러셀의 <서양 철학사>와 <철학의 문제들>이 두 권의 책인데, 해당 책들에서 '기술'과 관련한 부분을 옮겨본다.
우리가 표현하려는 것은, 가령 외국어로 번역될 잘 모르지만 어쨌든 실제의 언어가 매개물이 되고, 언어 자신이 그 부분이 되는 것은 아니다... 따라서 이름이 단지 이름으로만 쓰였다면 "스콧은 바로 그 월터이다"라는 명제도 "스콧은 스콧이다"라는 명제와 마찬가지로 자명한 사실을 공연히 반복해 표현하는 것이 된다.(p203) <수리 철학의 기초> 中
기술 이론에 따르면 '존재'는 기술 어구를 통해서만 주장될 수 있다. 우리는 "<웨이벌리>의 그 저자는 존재한다"고 말해도 좋지만, "스콧이 존재한다"는 진술은 틀린 어법, 아닌 틀린 구문이다. 이로써 플라톤의 <테아이테토스>에서 시작된, '실존 existence'을 둘러싸고 2000년 동안 지속된 지리멸렬한 수수께끼가 풀린다.(p1033) <서양철학사> 中
저자에 따르면 '스콧'이라는 존재는 소설가, <웨이벌리>의 작가, 영국인 등등 그를 설명하는 많은 기술 어구에 의해 설명된다. 때문에, "스콧이 존재한다"는 명제는 정의역과 역정의역이 '기술함수'에 의해 맺어진 관계로 분석되고, 이는 "황금산이 존재한다"는 것과 마찬가지로 명제의 참거짓을 판단할 수 없는 명제가 된다. 반면, "<웨이벌리>의 그 저자는 존재한다"의 명제는 정의역과 역정의역이 명제함수에 의해 맺어진 참,거짓을 판단할 수 있는 명제가 된다.
복합체가 요소들이 아니라면 복합체는 요소들을 제 자신의 부분들로 가지고 있지 않거나, 아니면 복합체가 요소들과 동일한 것이라면 그것들과 마찬가지로 인식될 수 있는 것이거나 할 게 필연적이지 않나?... 사태가 이렇게 되지 않도록 하기 위해 우리는 복합체를 요소들과 다른 것으로 놓았던 것 아니겠나?... 다음은 어떤까? 요소들이 복합체의 부분들이 아니라면 자넨, 복합체의 부분들이지만 그러면서도 복합체의 요소들이 아닌 그런 어떤 것들을 말할 수 있는가?... 그럼 테아이테토스, 전적으로 이렇게 될 걸세. 즉 지금의 논의에 따르면 복합체는 부분으로 나뉠 수 없는 어떤 단일한 형상일 걸세.(205b) <테아이테토스> 中
<테아이테토스>에서 소크라테스는 복합체는 부분으로 나눌 수 없는 단일한 형상이라고 말한다. 이는 정의역과 역정의역이 1:1 관계를 맺는다는 의미이지만, 러셀에 따르면 이들은 '스콧은 존재한다'라는 틀린 진술을 하고 있는 것이다.(복합체의 존재성은 기술에 의해 설명되기에, 결코 단일하지 않다.)
그렇다면, 러셀이 <수리철학의 기초> 나아가 <수학의 원리>를 통해 말하고 싶은 바는 무엇이었을까. 러셀과 화이트 헤드는 <수학의 원리>를 통해 모호한 언어 대신 수학의 질서를 통해 우리의 인식을 보다 명료하게 가져가려 했음을 짐작할 수 있는 다음의 구절을 마지막으로 수리 철학과 관련한 페이퍼를 갈무리한다.
기술구들을 가진 명제들의 분석에서 기본적인 원리는 다음과 같다. "우리가 [오성에 의해] 이해할 수 있는 모든 명제는 우리가 직접 대면에 의해 인식한 요소들로 전부 구성되어야만 한다."(p97)... 기술구에 의한 간접적인 인식의 일차적인 중요성은 이러한 인식 방법이 우리의 사밀한 경험의 한계를 넘어설 수 있도록 해준다는 데 있다. 우리가 직접 대면하여 경험할 수 있는 용어들로만 전부 구성된 진리들은 우리가 직접 인식할 수 있다 해도, 우리가 경험하지 못한 사물들에 관해서는 기술구에 의해서 간접적으로 인식할 수 있다.(98) <철학의 문제들> 中
PS. 이로써 홍성대의 <수학의 정석> 1장 집합 부분만 열심히 공부한 것으로부터 시작된 '집합은 쉬운 분야'라는 30년 동안 지속된 근거없는 내 자신감의 수수께끼가 풀렸다... 나는 집합을 제대로 몰랐던 것이다....