수학은 융통성이 없어 보입니다. 수학의 내용은 전 세계가 공통이고요. (물론 각자의 나랏말로 쓰였지만.) 그러나 깊이 알고 보면, 다른 곳에서 일어나는 똑 같은 논쟁이 수학에도 일어나고 있습니다. 비유클리드 기하학Non-Euclid geometry이 생긴 이후, 괴델Kurt Goedel의 불완전성의 원리Incompleteness theorems가 나온 이후......
개인적인 느낌에 비유클리드 기하학은 물리학의 상대성 이론Relativity theory을 연상시키며, 불완전성의 원리는 하이젠베르크Werner Karl Heisenberg의 불확실성의 원리Uncertainty principle를 연상시킵니다.
다음 글은 수학사랑(www.mathlove.org)에 실린 글을 옮겼습니다.
수리철학의 흐름
절대주의
절대주의는 절대적 진리로서의 수학의 존재성 및 수학의 절대적 기초를 인정하는 수리철학이다.1) 20세기 초까지의 수리철학을 지배하였다.
1. 플라톤주의 ( 고대 그리스 ∼ 19세기 초)
플라톤주의에 의하면 수학적 대상들은 실재한다. 수학적 대상의 존재는 객관적인 사실이고, 이에 대한 우리의 지식과는 무관하게 존재한다. 수학의 창고에 있는 모든 구성원들은 명확한 대상이고, 일부는 밝혀졌지만 많은 부분이 밝혀지지 않고 있는 성질들을 갖고 있다. 이런 대상들은 물론 물리적이거나 물질적이 아니다. 수학적 대상들은 물리적인 존재인 시간과 공간 밖에 존재하며, 불변한다. 즉, 창조되거나 변하거나 소멸되지 않는다. 수학적 대상에 관한 모든 문제는 우리가 알아냈던 못알아냈던 상관없이 명확한 답을 갖고 있다. 플라톤주의에 의하면 수학자는 발명가가 아니라 경험 과학자이다. 왜냐하면 모든 것은 이미 존재하고 있기 때문이다. 수학자가 할 수 있는 것은 발견이다.2)
플라톤주의는 이성의 기능을 인간의 타고난 특성으로 간주했고, 그것에 의해 진리를 관찰과 무관하게 선험적으로 지각할 수 있다고 생각했다. 이성은 인간이 선을 인식하고 신을 알도록 만드는 기능이다. 이 기능의 존재는 수학에서 가장 잘 밝혀진다. 수학은 자명한 진리에서 출발해서 면밀한 추론에 의해 숨겨진 진리를 발견한다. 기하학의 진리는 인간에게 자명한 이상적인 형태를 갖추고 있다. 이것의 존재에 대한 의심은 무지 또는 어리석음의 표현일 수 있었다. 수학과 종교는 이성을 통해 얻어진 지식의 탁월한 예였다. 플라톤의 수학에 대한 생각은 르네상스 이성론자의 사고에서 신에 대한 생각으로 변형되었다.
16, 17세기 이후에는 사람들의 의식이 변화하면서 수학적 대상의 실재 여부보다 그것을 어떻게 인식할 것인가의 문제에 더 관심을 갖게 되었다. 여기에서 플라톤주의는 어려운 문제에 부딪힌다. 수학적 대상이 관념적인 비물질적 세계를 형성하고 있다면, 인간의 정신은 어떻게 이 세계와 접촉하는가 ? 물리적 감각이 물리적 실재를 지각하는 것과 똑같이 관념적인 실재를 직접 지각할 수 있는 정신적인 기능이 있는가 ? 플라톤주의는 이 정신적인 기능이 직관이라고 말하지만 직관의 본질에 대해 분석을 하거나 직관을 서술하려고 하지 않는다. 직관은 '영혼'과도 같이 그저 존재하는 것일 뿐이다. 이런 대답은 과학적인 성향을 가진 사람들에게 매우 불만족 스러운 것이었다.
2. 수학 기초론 ( 19세기 말 ∼ 20세기 초 )
19세기가 시작되고나서 상당히 지난 후 까지도 플라톤주의와 유클리드 기하의 입지는 아주 확고했다. 모든 사람들이 수학을 가장 확실하고 가장 믿을 만한 분야로 생각했다. 그런데 19세기에 여러 가지 큰(!) 일이 생겼다. 비유클리드 기하학이 발견되어 두 가지 이상의 기하학을 고려할 수 있다는 사실이 밝혀졌고, 해석학이 발달하여 모든 곳에서 미분 불가능한 연속 곡선 등의 이상한 발견을 통해 기하학적 직관이 파괴되었다. 당시까지 수학의 견고한 기반으로 여겨진 기하학적 직관의 취약성이 드러났고, 이로 인해 기하학에서의 확실성이 흔들리게 되었다. 이런 위기를 극복하고 수학의 확실성을 재확립하고자 하는 시도로 수학 기초론이 등장하였다.3) 19세기의 수학자들은 수학의 기초를 기하학이 아니라 산술에서 찾았다. 해석학과 기하학을 산술로 환원하려는 노력의 일환으로 실수와 무한집합이 도입되었다. 프레게(Frege)가 집합론의 연산을 사용하여 자연수를 무로부터, 즉 공집합으로부터 구성할 수 있는 방법을 밝힌 이후로 집합론은 모든 수학을 구성할 수 있는 초석이 될 수 있다고 여겨졌다.
⑴ 논리주의
집합론을 처음에는 논리학과 거의 같이 생각했다. 예를 들면 A⊂B 는 A→B 로 언제든지 바꿀 수 있었다. 그래서 집합론-논리학이 수학 전체에 대한 기초의 역할을 할 수 있다고 생각되었다. 논리학의 의심할 여지가 없는 확실성을 수학에 부여함으로써 수학의 기초에 확실성을 제공하려고 한 것이다. 모든 수학이 집합론으로 환원될 수 있으므로, 이제 중요한 것은 집합론의 기초가 확실하다는 것만 보여주면 되었다. 그런데 집합론에서 모순이 발견되었고, 그 발견자는 바로 논리주의를 주창한 러셀(Russell)이었다. 러셀의 역설4)로 불리는 이 문제로 인해 직관적 논리가 고전 수학보다 더 위험할 수 있다는 사실이 밝혀졌다. 프레게와 러셀은 이 문제를 해결하기 위해 집합론을 재구성하여 역설들을 배제시키는데 성공하였다. 그러나, 이로 인해 집합론은 복잡한 구조를 갖게 되었고, 결국은 집합론을 논리학과 동일시할 수 없게 되었다. 그래서 더 이상 수학이 논리학에 불과하다고 주장할 수 없게 되었다.
⑵ 직관주의
논리주의의 뒤에 등장한 주요한 사조가 직관주의이다. 직관주의는 네델란드의 위상 수학자 브라우어(Brouwer)에 의해 제안되었다. 브라우어는 수학 전체의 출발점인 자연수가 어떤 기본적인 직관에 의해 우리에게 부여되어 있고, 따라서 모든 수학이 자연수 위에 구성적으로 근거해야 한다고 생각했다.5) 즉, 수학적 대상은 유한 번의 단계 내에 구성되지 않으면 존재한다고 볼 수 없다고 생각했다. 그래서 구성적인 증명을 제시할 수 없는 것은 모두 버려졌고, 비구성적 논증과 모순률, 배중률6) 등을 배제하였다. 직관적으로 안전한 구성적 방법으로 수학적 지식을 이끌어 냄으로써 수학의 확실한 기초를 제공할 수 있다고 생각했던 것이다. 그러나 비록 논리주의에서와 같은 역설이나 모순은 피할 수 있었지만, 수학의 내용을 지나치게 제한하는 오류를 범하여 고전 수학의 많은 부분을 포기하게 되는 결과를 초래하였다. 힐베르트(Hilbert)는 직관주의자를 "귀찮다고 우리의 가장 귀중한 보물의 대부분을 포기"하려고 한다고 비난하였다. 또한 직관주의가 근거로 하고 있는 주관적 직관이 어떻게 객관성을 갖게 되는지에 대하여 적절한 설명을 하지 못하고 있다. 이로 인하여 많은 수학자들이 비록 비구성적인 방법과 무한 집합의 자유로운 사용을 불안하게 생각하면서도 모든 수학을 기초부터 구성적으로 다시 세우려는 시도를 불합리하고 무모한 것으로 받아들이고 있다.
⑶ 형식주의
힐베르트는 고전 수학의 무모순성에 대한 수학적 증명을 제공함으로써 직관주의의 비판으로부터 수학을 방어하려고 하였다. 공리에서 출발한 고전의 증명은 각 단계가 기계적으로 점검 가능한 형식으로 표현될 수 있으므로 먼저 형식적 언어와 추론의 형식적 규칙을 도입한 후, 이 형식적 언어의 조합적 성질에 대한 이론(초수학)을 전개하고, 이 체계의 내부에서 모순이 유도될 수 없음을 순수하게 유한한 논법으로 증명하고자 하였다. 이런 방법으로 수학은 무모순성의 보장이라는 의미에서 안전한 기초를 가지게 될 것으로 보았다. 그래서 힐베르트는 수학을 의미 없는, 종이 위에 있는 기호들을 가지고, 규칙에 따라 하는 형식적인 게임으로 바꾸었다. 게임에 사용되는 기호들의 의미를 묻는 일은 수학 밖의 일이 되어 버렸다. 논리학과 수학의 공리들을 기호화된 식이나 기호의 모임으로 표현하고, 확립된 논리식이나 공리들의 기호로 연산한 것에 논리학의 공리를 적용함으로써 논리식을 유도하고, 한 논리식이 참이라는 증명은 논리식들의 연쇄의 최종 결과로 얻어진다. 따라서 수학은 엄밀하고 형식적인 체계의 모임이 되었다.
⑷ 구조주의
여기에서 구조주의는 부르바키(Bourbaki)학파에 의해 주장된 수리철학의 한 사조를 일컫는다.8) 논리주의와 형식주의의 실패에도 불구하고 집합론의 공리계는 여전히 모든 수학을 건설하는 데 바람직한 기초로서 여겨졌다. 부르바키 학파는 적절한 공리들을 선택하여 이 공리에 따라 수학의 복잡한 내용을 공리적체계로 될 수 있는 대로 명쾌하게 재현시키려고 하였다. 모두라고 할 수는 없으나 대단히 많은 분야에 관하여 일반적인 공리적체계을 세움으로써 수학적인 수단을 표준화하였다. 이리하여, 집합론에서 시작하여, 단순한 것에서 복잡한 것으로, 일반적인 것에서 특수한 것으로 계층적인 구조를 가진 질서 있는 수학을 이룩하여 나가려 했다.9) 고전수학에서는 산술, 기하학, 대수학, 해석학을 각각 독립된 서로 다른 것으로 생각해 왔으나, 부르바키 학파는 이와는 반대로 기본구조에서 시작하여 단일한 수학을 재현시키려 했다. 이같은 방법을 진전시켜 나아가는 데는 고도의 추상능력을 필요로 했다. 구조주의는 1950년대와 1960년대에 전 세계적으로 새수학이라는 이름의 수학교육 현대화 운동과 맞물려 초·중등은 물론 유아교육까지 엄청난 영향을 미쳤다.10) 그러나 엄밀함이 강조된 완성된 형태의 지식을 다량으로 포함한 교육과정은 오히려 부작용을 많이 낳았고, 형식적인 설명의 엄밀함보다는 구체적이고 응용 가능한 수학에 대한 요구가 커지면서 새수학 교육과정에 대한 반성이 일고 있다.11) 앞에서 살펴 본 플라톤주의, 논리주의, 형식주의, 직관주의와 구조주의는 모두 수학의 절대적 확실성에 대한 믿음을 가지고 있었으며 그 기초를 제대로 확립하려고 노력하였다. 이런 절대주의적 관점은 현재에도 많은 지지자들을 갖는다. 과학이 오류 가능하다는 것은 쉽게 받아들이지만, 수학과 논리는 누구에게나 필연적이고 확실한 것으로 본다.
상대주의(20세기 중반 ∼ )
수학의 확실성을 찾고자 그리고 수학의 본질을 찾고자 하는 노력의 실패와 한계에 의하여 수학적 지식이 절대적임을 부인하고 오류가능함을 인정하는 사조가 등장한다. 이런 상대론 또는 오류주의는 20세기 중반에 라카토스(Lakatos)의 준경험주의로 시작한다.
1. 준경험주의
준경험주의는 이전까지의 수학을 지배해온 형식주의적이고 연역적인 유클리드적 이론에 대한 비판에서 출발하였다. 완성된 지식으로서의 수학의 측면만을 강조해오고 발생 과정으로서의 측면을 무시해온 전통적인 수학관을 배격한다. 아무리 본질적으로 불완전하다고 해도 수학은 수학자들이 행해온 인간적인 창조활동이다. 따라서 수학적 결과가 결코 최종적이고 완전한 것으로 고려될 수 없고, 새로운 것이 출현할 수 있고, 엄밀성의 기준이 변화할 수도 있으며, 수학은 역사와 과학에의 적용에서 고립된 것으로 볼 수 없다는 것이다.12) 수학에 대한 전통적인 견해는 수학을 정적이고 완성된 지식체로 보도록 하였으며, 이것을 근거로 하는 수학 교육은 구조주의를 중시하는 현대화운동을 낳을 수 밖에 없었다는 것이다. 따라서 라카토스는 수학이 준경험과학13)이라는 것을 강조하면서 수학적 발견의 논리와 수학의 역동성을 중시하였다. 라카토스에 의하면 수학은 증명과 반박의 논리에 의해 추측과 비판의 끊임없는 개선을 통하여 변증법적으로 성장한다. 이처럼 수학의 인간적인 측면을 강조함으로써 이전에 수학의 비형식적 측면을 무시하고 수학의 형식적인 측면만을 강조함으로써 표출되었던 문제들을 해결하고자 노력하였다. 그러나 1931년 괴델(Gödel)의 불완전성 정리7)에 의해 수학이 모순이 없는 완전한 세계임을 증명하려던 형식주의자들의 꿈은 깨어진다. 수학의 모든 정리들은 형식적 체계의 정리들로 표현될 수도 없고 체계 자체의 안정성도 보장될 수 없으며, 더욱이 아무 의미가 없는 기호들의 연쇄로서의 수학은 생명력이 없다. 물론 라카토스의 체계는 수학의 모든 분야의 발달을 설명하는데 적절하지는 않다. 단지 라카토스의 목적은 완성된 공리 속에 화석화되지 않고 살아서 성장하는 수학의 모습을 제시함으로써 구조주의의 부적절함을 밝히는 것이었다. 준경험주의가 시사하는 중요한 점은 시각의 차이를 깨닫는 것이다. 플라톤주의나 구조주의나 직관주의나 모두의 주장이 여전히 받아들여 지는 것은 각각이 수학을 바라보는 나름대로의 시각을 가지고 있기 때문이다. 각 주장은 불완전하고 일방적이다. 각 주장은 동일한 대상에 대한 다른 그림이다. 따라서 각 주장은 양립할 수 있다. 문제는 그 대상 자체에 대하여 이해하는 것이고, 각 주장을 통합하는 것이다. 수학이란 무엇인가를 물었을 때, 준경험주의가 대답하는 것은 수학의 형식적인 면 이외의 다른 면도 보라는 것이다.
2. 구성주의
수학이 처음부터 만들어져 있던 것이 아니라 구성되어진 것이라는 구성주의의 인식론적 바탕은 삐아제(Piaget)의 조작적 구성주의에 그 뿌리를 두고 있다.14) 수리철학에서 말하는 구성주의는 급진적 구성주의와 사회적 구성주의를 의미한다. 급진적 구성주의는 철학적, 문화적 상대주의를 표방하고 객관적이고 절대적인 지식이나 가치의 존재를 부정하는 포스트모더니즘과 관련되어 있다.15) 급진적 구성주의를 수정, 보완하며 등장한 사회적 구성주의 역시 절대주의적 수학관을 비판하고 지식을 사회적 구성물로 보는 등 상대주의적 관점을 취하고 있다.
⑴ 급진적 구성주의
폰 글라저펠트(von Glaserfeld)는 지식이 개별 주체가 특정한 환경에 적응하기 위해 구성하는 것이므로 그러한 지식에 객관성을 부여할 수 없다고 주장한다. 지식은 인식하는 주체에 의하여 능동적으로 구성되며(자주적 구성의 원리), 인식의 기능은 적응적이며 생장성을 지향하고(생장 지향성의 원리), 인식은 주체가 경험 세계를 조직하는데 도움을 주는 것이지 결코 객관적인 존재론적 실재를 발견하는 것이 아니다(비객관성의 원리). 급진적 구성주의는 언어의 비공유성과 의미의 주관성을 전제로 하기 때문에 의사소통은 단지 우연적으로 형성된 합의 영역에 의하여 이루어진다. 이 우연적인 합의는 실용적인 결과를 이루기 위해서이다.16) 급진적 구성주의는 수학적 지식 또한 상호 주관적이며 상대적인 것으로 이해해야 한다고 보았다. 그러나 급진적 구성주의자들이 삐아제의 이론17)을 자주 언급하기는 하지만 수학적으로 '구성'이 무엇인가에 대한 설명은 명확히 제시하지 않고 있다. 급진적 구성주의에서는 단지 수학이 언어로 정확히 전달될 수 있다는 것은 헛된 바람이며 학생 개개인은 서로 다른 각자의 주관적 지식을 구성한다는 점을 지적하고 있는 것으로 보인다.
⑵ 사회적 구성주의
사회적 구성주의는 수학을 사회적인 구성으로 고려하며, 수학의 객관성의 근거를 사회적인 언어 관습에 있다고 주장한다.18) 수학은 사회적 구성물로서, 절대화된 수학적 지식은 없으며 지식은 오류가능하다. 수학은 사회적 환경에 따라 상대적이므로 다른 수학이 구성될 수 있다. 수학은 가치 독립적이지 않으며 다른 지식과 문화, 이데올로기 등과 관련된다. 사회적 구성주의는 주관적 지식으로부터 객관적 지식으로의 이행 과정에 관심을 두고 있는데, 여기서 사회적 상호 작용이 지식 형성 또는 구성의 과정에 핵심적인 것으로 등장한다. 사회적 구성주의는 논리적 수학적 증명의 뿌리가 변증법, 인간의 대화 그리고 의사소통에 있다고 본다. 따라서 수학의 교수와 학습에서도 대화와 변증법 즉, 언어가 필수적인 역할을 한다. 어니스트(Ernest)는 사회적 구성주의에 적절한 수학 교수 원리로 학습자의 의미와 사전 지식을 존중하기, 아동의 방법들을 기초로 지식의 중재를 통해 교육하기, 수학과 응용의 분리불가능성 그리고 동기와 적절성의 중요성 등을 제시하고 있다.
1)증명의 수리철학적 분석과 지도 방향 탐색, 대한수학교육학회, 1998년 7월, 나귀수
2)수학적 경험(하) , 경문사, 허 민·양영오 역
3)수리철학의 변화와 수학교육에의 시사점, 대한수학교육학회, 1997년 7월, 정영옥
4)자기 자신을 포함하는 집합에 관한 역설. 수학적 경험(하), 192쪽 참조
5)플라톤주의와 직관주의, 대한수학회 뉴스레터 57호 , 1998년 1월, 박창균
6)모든 명제는 참이 아니면 거짓이다
7)완전한 체계는 무모순을 입증할 수 없고, 반면에 무모순인 체계는 불완전하다.
8)수리철학의 변화와 수학교육에의 시사점, 대한수학교육학회, 1997년 7월, 정영옥
9)수학의 세계, 서울대학교출판부, 박세희
10)지식에 대한 구조주의적 관점과 수학에서의 '지식의 구조', 대한수학교육학회, 1998년 7월, 임재훈
11)부르바키여 안녕, 대한수학회 뉴스레터 45호, Ian Stewart , 방승진 역
12)수리철학의 변화와 수학교육에의 시사점, 대한수학교육학회, 1997년 7월, 정영옥
13)가설에 대한 논증의 결과가 공리와 정의에 반영된다.
14)수학교육에 있어서의 구성주의, 대한수학교육학회, 1995년 7월, 박경미
15)급진적·사회적 구성주의와 포스트모더니즘, 대한수학교육학회, 1997년 12월, 유연주·임재훈
16)플라톤주의, 구성주의, 구성주의 수학교육철학, Math-Festival, 1999년 1월, 임재훈
17)조작적 구성주의와 사회적 구성주의에서 구성의 의미와 과정, 대한수학교육학회, 1998년 7월, 임재훈·홍진곤
18)수리철학의 변화와 수학교육에의 시사점, 대한수학교육학회, 1997년 7월, 정영옥