수학, 철학에 미치다

장우석 지음/ 페퍼민트

"수학, 철학에 미치다"는 수학의 역사 이야기이다. 수학과 철학이 어떻게 깊은 관련을 맺으면서 발전해 왔는지의 역사가 있다.

수학의 발전과 변처사 배후에 있는 사유등을 알게 되어 수학을 보는 눈이 업그레이드 된 느낌을 준다. 

Part 1 철학, 수학으로 사유하다 (탈레스에서 아르키메데스까지)

최초의 철학자로 알려진 탈레스는 "만물의 원질은 물이다."라고 말했다. 

이렇게 탈레스는 현상 이면의 질서를 탐구하는 철학적 사유의 아버지가 되었다.

그 이후 그 전통은 피타고라스와 파르메니데스를 거치면서 한층 심화되고 플라톤과 아리스토텔레스에 이르러 하나의 형이상학으로 체계화되었다.

"만물의 본질은 수이다" 피타고라스의 말이다.

파격적인 말이다. 형체가 없는 것이 형체의 본질이 된다는 생각은 파격에 파격이다.

형체가 없는 '수' 또는 변하지 않는 '수의 질서'가 현상의 이면에서 현상을 움직인다는 의미로 생각하면 조금 이해가 될 듯도 하다. 

파르메니데스는 존재하는 것은 존재하고 존재하지 않는 것은 존재하지 않는다. 존재하다가 존재하지 않게 된다든지 존재하지 않다가 존재하든지 할 수는 없다고 주장하며 사실상의 변화를 부정하는 논증을 폈다. 다시 말하면 변하지 않는 것만을 진정한 존재로 보아야 한다는 말이기도 하다. 우리가 살아가는 세계는 끊임없이 변화한다. 파르메니데스의 논리를 따른다면 우리의 경험세계는 허상이라는 결론에 도달한다. 그의 제자 제논의 역설도 움직임 즉 변화가 논리적으로 불가능함을 보여주는 이야기인 것이다.

플라톤은 이런 논리를 심화시켜 나간다. 변화하는 현상계가 허상이라면 실제로 존재하는 것, 즉 변하지 않는 것은 무엇일까? 플라톤은 수, 도형, 정의(justice)등 변하지 않는 모든 대상이 존재하는 장소를 이데아의 세계라고 불렀다. 이데아의 세계야말로 객관적으로 실재하는 세계라고 주장했다. 현실세계는 이데아 세계의 그림자에 불과한 것으로 불완전하다는 것이다. 복잡한 현상을 규정하는 불변의 세계가 객관적으로 존재한다는 생각, 즉 현상과 구분되는 '이론' 차원의 세계가 존재한다는 사유는 과학을 가능하게 한 사유였다.

아리스토텔레스는 플라톤이 찾은 이데아의 세계가 현실과 유리되어 따로 존재하는 것이 아니라 구체적인 사물 속에 존재한다고 하여 현상을 살리려고 하였다. 형상과 질료 이론이다. 책상이라는 형상과 나무라는 질료가 합쳐져야 책상의 존재가 드러난다는 것이다. 플라톤의 이데아가 현실세계에 들어와 있다는 것이 아리스토텔레스의 형상인 것이다. 그에 의하면 형상은 존재하는 현상세계가 참된 세계이다.

● 아리스토텔레스는 논리학

아리스토텔레스는 논리학의 창시자이다.

그의 논리학 체계는 크게 삼단논법과 동일률, 모순율, 배중률로 이루어진 세 가지 논리법칙으로 요약된다.

동일률: A는 A이다. (A=A), 

모순률: A이면서 동시에 A가 아닌 것은 존재하지 않는다. (A ∩ A^c = ∲)

배중률: A이든지 A가 아니든지 둘 중에 하나는 반드시 성립한다. ( A ∪ A^c = U )

동일률이 성립하는 세계는 변화가 없는 세계이어야 한다. 변화하는 현실세계에서는 모든 것이 끊임없이 바뀌어가기 때문이다.

아리스토텔레스는 피타고라스로부터 파르메니데스를 거쳐 플라톤까지 이어져온, 불변하는 세계에 완변하게 적용되는 사유의 원리이자 존재의 원리를 '논리'라는 이름으로 정식화한 것이다. 이로써 철학과 수학 그리고 논리가 하나로 결합된 그리스 사유의 거대한 구조물이 완성되었다.

삼단논법은 대전제가 참이라면 결론도 참이라는 구조이다. 결론의 성립여부는 대전제에 달려 있기 때문에 포인트는 대전제가 참인 것을 어떻게 보장하느냐이다.

그는 대전제를 제1원리들이라고 불렀는데, 이 대전제는 추론에 의해서 논증할 수가 없다. 다만 그것은 이성에 의한 직관의 차원에서 진리임이 자명한 것이다. 논리적 추론 없이 직관적으로 파악되는 대전제가 없으면 모든 논증의 구조는 허물어져 버린다.

그의 논리학은 불변의 실체를 추구하는 존재론적 사유의 원리를 정식화한 것이었으며 따라서 수학의 세계에 완벽하게 적용되는 틀이었다.

유클리드는 당시의 수학을 집대성하여 <원론>을 완성한다. 원론은 다섯 개의 공리와 다섯 개의 공준으로부터 출발한다.

▶ 5개의 공리(공리: 모든 논리의 대전제로 사용될 수 있는 자명하다고 여겨지는 진리)

1) 동일한 것과 같은 것들은 모두 서로 같다.

2) 같은 것에 어떤 것을 같이 더하면 그 전체는 같다.

3) 같은 것에 어떤 것을 같이 빼면 그 전체는 같다.

4) 서로 일치하는 것들은 서로 같다.

5) 전체는 부분보다 크다.

▶ 5개의 공준(공준: 특정한 학문분야의 대전제로 사용될 수 있는 자명하다고 여겨지는 진리)

1) 한 점에서 다른 한 점으로 하나의 직선을 그을 수 있다.

2) 유한한 직선을 얼마든지 연장할 수 있다.

3) 모든 점에서 모든 거리를 반지름으로 하는 원을 그릴 수 있다.

4) 모든 직각은 같다.

5) 한 직선상에 있지 않는 한 점을 지나면서 그 직선에 평행한 직선은 한 개만 존재한다.

이 열 개의 전제와 아리스토텔레스가 확립한 논리법칙들 이용하여 유클리드는 464개의 명제들을 증명하여 정리화하였다.

그러면 공준 또리 공리가 옳은 근거는 무엇일까?

유클리드에 의하면 그것은 옳기 때문에 옳다. 증명이 필요없을 정도로 명백하고 자명하다는 것이 그 근거이다.  

아르키메데스는 수학을 구체적인 물리 문제에 적용하기 시작한다.

탈레스로부터 시작된, 현상을 규율하는 본체의 세계에 대한 철학적 탐구가 피타고라스, 플라톤, 아리스토텔레스를 거쳐 논리를 바탕으로 하는 존재론적 세계관으로 확립되었다. 그리고 그 대표는 수학이었다.

고대 그리스의 철학은 불변의 사유, 존재의 사유로부터 출발하였다. 하지만 고대 중국인들은 이와는 다른 사유, 즉 변화의 사유, 생성의 사유를 하였다.

Part 2  철학은 곧 관계다 (노자와 장자 그리고 음양오행의 사유법)

자연의 질서를 탐구함에서부터 철학적 사유를 출발시켰던 그리스 철학자들과는 달리 중국의 철학자들은 인간의 구체적인 삶의 문제를 해결하는 데서부터 철학적 사유를 시작하였다. 즉 객관세계를 탐구하는 그리스 철학이 '존재'를 중시하는 방향에서부터 시작할 수 밖에 없었다면 삶의 문제를 탐구하는 중국 철학이 '관계'를 중시하는 방향에서부터 시작 한 것 또한 자연스럽게 이해할 수 있다.

노자,  '道可道 非常道, 名可名 非常名'

'A는 A가 아니다.' 어떤 대상을 A라 규정하면 그것은 더 이상 A가 아니다. 동일률에 정면으로 부딪힌다.

일본 불교 철학자 스즈키 아이세쓰는 '卽非의 논리'라고 하여 "A 卽非 A, 是名 A"로 구조화했다.

이는 이 세계가 단순하지 않고 매우 복잡한 연관관계로 얽혀 있기 때문에 어떠한 사태를 그 사태만으로 보아서는 안되고 전체적으로 보아야 한다는 지극히 '상식적인' 주장이다. 즉비는 논리는 "모든 것은 한순간도 머물러 있지 않으며 끊임없이 주변과 교감하며 변화한다" 즉 변화하지 않는 존재는 없으며 '변화야말로 존재의 본질'이라는 전제에서 성립하였다. 모든 존재가 관계의 끈으로 연결되어 있다는 이러한 즉비의 논리를 궁극까지 밀고 들어가면 "모든 것은 하나이다"로 귀결된다. 즉 진리는 변화무쌍한 구체적 현실, 바로 거기에 있으며 모든 것이 하나로 연결되어 있는 만큼 모든 곳에 동일하게 있는 것이다.

변화, 서로 다름의 극한이 음양, 음양은 현상적으로는 둘이지만 본질적으로는 하나이다. 태극도는 음과 양의 존재론적 일원성과 현상론적 이원성을 동시에 표현한 그림이다.

음양론의 궁극적 결론은 대립되는 성질들 사이의 감응에 의한 끊임없는 변화와 균형을 통한 생명력의 유지이다. 이것은 사태를 실체론적 관점이 아닌 관계론적으로 즉 전체적으로 조망해야 함을 의미한다.

오행론은 끊임없이 변화하는 자연 속에서 균형을 유지하는 안정성을 보았다. 자연은 머물지 않으려는 본성이 있으며 또한 그것은 순환구조를 가지고 있다. 이러한 자연 순환의 원리를 크게 다섯걸음(오행)으로 구조화 한 것이 바로 오행론이다. 왜 다섯? 이론적 근거는 상생상극의 개념이다.

     

     

순환구조는 생장과정과 소멸과정으로 구분할 수 있는데, 다시 말해 상생(서로 키워줌)의 방향과 상극(서로 억누름)의 방향을 생각할 수 있다.

구체적인 자연현상 속에서 서로 살려주고 서로 제어하는 관계로 고대 중국인이 찾은 다섯 가지 경향성은 목, 화, 토, 금, 수이다. 이것은 다섯 가지 사물이 아니라 그것들로 상징되는 성질이나 경향성을 말하는 것이다.

Part 3 잠자던 수학을 깨우다 (불변에서 변화의 수학으로)

피타고라스로부터 플라톤을 거쳐 아리스토텔레스와 유클리드에 와서 결말을 맺은 수학적 세계관은 군더더기가 없고 모든 것이 투명하게 볍칙적으로 성립하는 세계관이라는 부분에서 이성적, 합리적인 측면을 가지고 있지만 '불변하는 세계를 별개로 설정'했다는 부분에서 신비적, 종교적 측면을 동시에 가지고 있었다. 즉 과학적 측면과 종교적 측면이 공존하고 있었던 것이다.

르네쌍스를 지나면서 사고의 규칙이 달라지기 시작햇다. 선험주의, 본질주의 등 일체의 형이상학적 원리를 배제하고 현상에 근거하여 설명하고 이끌어가는 과학, 진리를 현실에 적용하는 것이 아니라 현실에서 진리를 끌어내는 새로운 과학이 태동하고 있었던 것이다. 갈릴레오의 놀라운 과학적 발견 또한 이러한 사상적 바탕하에서 나올 수 있었다.

갈릴레오는 의심할 줄 아는 인간이었다. 주어진 상식을 그냥 수용하지 않고 의심할 줄 아는 자세야말로 사유하는 인간의 가장 이상적인 모습이다. 갈릴레오는 관찰과 실험, 그리고 논리적 추론의 절묘한 결합으로 근대과학의 시발점으로 평가되는 낙하법칙을 발견해 내었다. 고대의 수학과 과학이 정적인 세계, 고요한 세계를 그 대상으로 했다면 근대의 수학과 과학은 움직이는 세계, 변화하는 세계로 관심의 촛점을 옮긴다.

종교적 믿음이 진리의 기준이 된 시기에 데카르트는 새로운 과학적 발견을 뒷받침하고 또 앞으로 더 나아가게 할 수 있는 새로운 철학의 원리, 누구도 부정하거나 의심하지 못할 확실한 원리를 발견한다.

'나는 생각한다. 고로 존재한다.'

이 말은 나의 사고에 의존해서만, 다시 말해서 내가 이해되는 한에서만 모든 것을 받아들이겠다는 상당히 과격하면서도 주체적이고도 능동적인 이 선언은 더 이상 애매하고 불확실한 본질주의를 받아들이지 않을 것이며 따라서 객관적 자연현상을 어떠한 형이상학적인 신념을 섞지 않고 나의 이성에 의하여 파악할 수 있다고 하는 근대과학의 철학적 근거를 마련해 주는 작업이었다.

   

거기에 더하여 데카르트는 좌표를 도입함으로 그리스의 기하학과 대수학을 하나로 결합하는 쾌거를 이루어 수학의 발전에 지대한 공헌을 하였다.

뉴턴은 갈릴레오의 지상의 낙하법칙과 케플러의 하늘의 행성의 운동 법칙을 종합하여 하나의 법칙으로 묶어낸다. 만유인력의 법칙이다.

또한 뉴턴과 라이프니쯔는 미적분을 발명함으로 순간순간 변화하는 대상물을 파악하는 방법을 고안해 내었다. 변화하는 현상세계의 변화를 계산하고 예측하는 것이 가능해 진 것이다.

Part 4 거인의 어깨 위에 올라선 수학(실체에서 관계의 수학으로)

수량화 혁명에 바탕한 새로운 합리주의는 점차로 누구도 부정할 수 없는 엄밀한 진리로서의 과학과 그러한 과학적 진리의 구현물인 자연이 정해진 질서에 따라 법칙적으로 움직여간다는 '기계론적 세계관'을 만들어 내었다. 근대적 기계론은 세계의 근원으로서의 신을 자연스럽게 받아들이게 되었다. 이는 인격신이 아닌 수학적 이성이라는 이름의 무색투명한 신이었다. 이성과 논리를 강조하며 자연을 수학 법칙을 다르는 창백한 대상물로 만들어버리는 이러한 기계론은 현상세계를 이데아의 그림자로 보는 플라톤 철학과 그 구조가 유사하다. 데카르트의 철학은 플라톤 철학의 근대적 변용이라고 할 수 있다. 다만 자아 즉 개인을 주장하며 말했다는 점에서 플라톤과 구별된다.

플라톤의 하늘에 떠 있는 이데아를 땅으로 끌어내리려 노력한 후계자 아리스토텔레스가 있었듯이 데카르트의 기계론을 바판하며 현실에 생기를 불어놓으려고 한 이성론자들이 등장하게 되는데 스피노자와 라이프니츠가 그들이다.

스피노자는 신과 자연을 이원화시키지 않고 과감하게 신=자연이라고 생각했다. 물론 그가 생각한 신은 인간의 이성으로 파악 가능한 합리적 신이다. 이러한 이성적이고 논리적인 신관을 범신론이라고 부른다. 스피노자는 우리가 경험하는 대상 바로 그 속에 신(이성)의 숨결이 담겨 있음을 주장함으로써 이성주의를 유지하면서도 데카르트의 기계론을 지양하려고 했다.

데카르트가 17세기의 플라톤이라면 라이프니츠는 17세기의 아리스토텔레스이다. 그는 현상 사물을 이데아의 그림자로 보는 기계론을 지양하고 자연'자체'에 원리를 내재시키고자하는 기획에서 아리스토텔레스가 그랬던 것처럼 논리학의 법칙을 세운다.

라이프니츠에 의하면 진리는 필연적 진리와 우연적 진리의 두가지 형태가 있다. 논리적 추론으로 증명되는 것이 필연적 진리이고, 경험함으로 알 수 있는 것이 우연적 진리이다. 필연적 진리는 추론의 진리이며 우연적 진리는 사실의 진리이다. 그는 필연적 진리를 지배하는 원리로서 모순율을 제시했고 우연적 진리를 지배하는 원리로서 충족이유율을 제시한다.

필연적 진리는 '유한 회'의 논리적 추론을 거쳐 알 수 있는 진리이고 우연적 진리는 '무한 회'의 논리적 추론을 거쳐 알 수 잇는 진리이다. 라이프니쯔에게는 우연적인 것은 존재하지 않는다. 모든 것이 그렇게 될 수 밖에 없는 필연적인 이유가 그 속에 내재되어 있다는 것이다. 사실의 진리가 우연한 것으로 인식되는 이유는 인간의 분석 능력이 유한하기 때문이다. 만약 무한 회 추론한다면 모든 것은 정확히 설명되고 예측될 수 있으므로 지금 우리게엑 불합리하고 이해가 안되는 것들도 모두 합당하고 이성적인 모습으로 나타나게 된다.

이 무한회 추론이라는 개념은 연속성이라는 개념과 관련된다. 그리고 자연의 연속성을 기반으로 한 무한 회 추론의 아이디어는 미분법 발견의 기초가 된다.

라이프니츠느 함수라는 용어를 최초로 사용했으며 미적분학의 창시자로 변화하는 대상들 사이의 관계를 찾는 도구를 만들어 내었다. 라이프니츠는 변화 속에서 변화하지 않는 '존재자'를 상정한 것이 아니라 변화하는 현상들 사이의 관계를 설명해 낼 수 있는 일관된 패턴, 바로 관계의 불변성을 추구한 것이다. 관계의 불변성이란 관계의 일관성을 말한다. 고대 그리스에서 출발한 "불변"의 철학적 의미가 '무변화'에서 '변화의 일관성'으로 발전해 나가고 있는 것이다.

데카르트로부터 라이프니츠까지 벌전되어 온 근대 이성주의 철학의 결과물인 수학과 과학의 많은 성과들을 맏아들이면서 모든 것을 이성이라는 이름의 신의 범주 속에 두지 않고 이성에 한계선을 그음으로써 인간과 신, 그리고 자연을 모두 살리려고 한 철학자가 바로 칸트이다.

칸트의 명제구분

분석명제: 주어속에 술어가 포함된 명제. 예를 들어 "백조는 희다'

종합명제: 그 반대.

선험적 판단과 경험적 판단

위 네가지를 종합하면 4종류의 명제가 도출된다. 선험적 분석명제, 선험적 종합명제, 경험적 분석명제, 경험적 종합명제.

이중 선험적 분석명제와 경험적 분석명제는 명제로 큰 의미가 없다. 동의반복이기 때문이다. 경험적 종합명제는 경험에 의한 것이므로 굳이 증명이 필요하지 않다.

그러므로 이 중 선험적 종합명제만이 철학자들의 고려 대상이 된다. 

인간은 경험자료와 이를 바탕으로 한 논리적 추론으로 올바른 지식을 구성해 나간다. 진리는 인간이 경험과 이성을 조합하면서 계속해서 확장, 구성해 나가는 것이다.

따라서 진리는 신의 관조가 아닌 인간의 행위를 통해서 드러난다.

플라톤으로부터 이어져 내려온 이성주의는 객관주의적 성격을 가진다. 즉 수학적 진리는 인간과 무관하게 존재하며 절대적으로 참이다. 이러한 객관적 진리관은 기독교의 초월적 신관과 결합되어 중세 철학을 구성하였다. 근대에 들어와서 데카르트는 사유하는 자아를 외치며 신으로부터 벗어나려는 시도를 한다. 하지만 그의 이성주의는 기계론으로 연결되면서 이신론, 즉 이성적 신관으로 나아간다.

우리는 이러한 이신론의 극적인 형태를 라이프니츠의 철학에서 보았는데 이성을 매개로 하여 인간과 신을 연결하려 한 이와 같은 이성 절대주의는 결국 플라톤주의의 근대적 발전으로 볼 수 있다. 하나로 뭉쳐진 합리주의와 신비주의, 그리고 철학과 종교는 강고한 역사적 관성을 지니고 있었던 것이다. 이 시점에서 합리주의를 신비주의로부터 구해내고 철학을 종교로부터 구해내며 근대적 수학과 과학의 성과를 흡수하면서도 그것과 신과의 연결고리를 끊고 인간이 구성한 인간의 진리로 재자리매김을 한 철학자가 바로 칸트이다. 

이것은 데카르트로부터 시작된, 사유하는 주체로서의 자아가 칸트에 와서야 비로소 신의 도움 없이 스스로 진리를 구성해 나갈 수 있는 존재가 되었다는 의미이다.

결국 칸트의 위대함은 절대적 진리라는 질곡에서 벗어나 인간이 '구성해 나가는' 새로운 진리관을 제시했다는 점에 있다. 따라서 칸트에 의하면 수학의 진리 또한 인간의 진리일 뿐이다.

이것은 서구 수학의 역사에 처음 등장한 매우 비전통적인 수학관이었다. 그래서 칸트는 자신의 사상을 '코페르니쿠스적 전환'이라고 말하였다. 그는 오랫동안 이성에 눌려 지내던 인간의 의지, 느낌 등이 철학의 주제가 될 수 있는 길을 열어준 철학자이기도 하다.

수학의 발전

좌표의 도입으로 기하학과 대수학이 결합되었고, 함수는 수학과 과학을 연결해 주는 매개체가 되었다.

기하학에서는 비유클리드 기하학이 등장하였다. 유클리드의 기하학은 평면에서의 기하학이었다. 하지만 구부려진 곡면에서의 기하학이 등장하였다. 이를 비유클리드 기하학이라 한다. 유클리드 기하학에서는 삼각형 세각의 합이 180도 이지만 비유클리드 기하학에서는 곡률에 따라 180도 이상이 될 수도 있고 이하가 될 수도 있다.

대수학에서도 단지 방정식을 푸는 것이 아니라 어떤 조건에서 방정식을 풀 수 있으며 어떤 조건에서 방정식을 풀 수 없는지, 그 방정식이 놓여 있는 장을 분석의 대상으로 놓아 그러한 장들의 대수적 구조를 탐구하는 추상대수학이 19세기 초부터 발전하기 시작한다. 군, 환, 체등이 그것이다.

이렇게 수의 성질과 그 구조를 탐구하던 수학자들은 19세기 말에 드디어 수의 성질에 기초하여 전체 수학의 체계와 그 구조를 확립한다. 유클리드가 공리로부터 정리로 나아가는 수학의 체계를 처음 세운 이후로 두번째의 체계화였다.

칸토어는 집합, 원소 그리고 대응이라는 단순한 개념들을 가지고 무한까지도 셀 수 있고 비교할 수 있음을 보여주었다. 칸토어에 의하여 발전된 무한에 관한 이론을 집합론이라 한다. 집합론은 17세기 이후의 수학의 역사에서 추상적 논리의 정점에 위치한 이론이다.

집합론을 흔드는 러셀의 역설

자신을 포함하지 않는 집합 R은 논리를 생명으로 하는 수학에서 있을 수 없는 모순이 발생하였다. 러셀은 이 문제를 해결하려고 <수학원리>라는 책을 저술하였다. 수리논리학의 기원이다. 하지만 <수학원리>는 역설의 근본 이유를 찾아서 해소한 것이 아니라 이런 저런 조건을 넣어서 역설을 피해간 것이기 때문에 문제가 근본적으로 해결된 것은 아니었다.

브로우베르는 러셀과는 달리 집합론에서 역설이 발생한 원인을 찾아낸다. 우리는 실제로 존재하는지 아닌지 모르는 대상, 즉 인간의 인식 대상이 될 수 없는 대상에게는 논리를 적용하면 않된다는 것이다. 예를 들어 '유령은 충치가 있어가 없거나 둘중에 하나다' 는 아리스토텔레스의 배중률에 의하면 맞는 말이다. 하지만 이 명제는 둘 다 성립하지가 않는다. 왜냐하면 유령이란 인간의 인식 대상이 아니기 때문이다.

그는 수학적으로 존재가 보장되는 대상만 논리적 분석대상으로 삼아야 한다고 말한 것이다. 무한은 인간의 인식의 한계를 넘기 때문에 수학적 대상이 아니라고 본 것이다. 그는 칸토어의 무한 집합론을 받아들이지 않았다. 인식의 대상이 수 없는 공허한 개념을 인식의 대상인 것처럼 실체화하여 논리적으로 분석하는 것은 잘못된 것이라고 본 것이다.

브로우베르의 사유의 핵심은 수학적 존재와 그것의 참거짓 문제를 '인간의 인식 행위'와 결부하여 생각한다는 점이다. 그는 수학을 인간과 무관한 진리로 보지 않았다. 인간의 진리라는 말을 한 칸트의 철학이 그 배후에 있는 것이다. 인간의 직관을 벗어난 공허한 논리를 배척한다는 것이 직관주의의 기본 정신이다. 

집합론에서 발생한 역설의 처리 문제에서 생긴, 20세기 초의 객관적 실재론과 주관적 구성주의의 학문적 대립은 무한을 존재자로 인정하느냐 하지 않느냐의 대립, 즉 무한과 유한의 대립이었다. 유한이건 무한이건 수학적 개념은 그 자체로 객관적 존재물이라는 플라톤주의와 인간이 유한 번에 걸쳐 구성해 낼 수 있는 개념만이 수학적 존재물이라는 칸트주의의 대립을 조화시키고 두 이론을 하나로 통일하려고 한 사람이 힐베르트였다.

힐베르트는 수학자들이 다루는 것은 논리적 형식, 즉 구조이며 개별 기호 각각의 의미(내용)가 아니므로 명제의 구조인 형식만 남기고 이를 수학의 탐구 대상으로 삼아야 한다는 논리를 세웟다. 형식주의의 등장이다.  형식주의는 '수학은 전제로부터 결론을 유도해내는 '과정의 논리적 정당성(형식)'만을 탐구한다'는 수학관이다. "수학은 규칙을 정해놓고 하는 게임이다"

하지만 전제을 '자유롭게' 구성할 수 있다는 말이 '임의로' 구성할 수 있음을 의미하지는 않는다. 규칙이 성립되려면 어떤 규칙이라도 그 속에 모순을 함의하고 있으면 안된다. 즉 전제가 되기 위한 기본 조건으로 첫째 무모순성, 둘째, 가능하다면 모든 명제에 대하여 참과 거짓을 판별해 주어야 할 것. 즉 완전성이다. 

정리하면 힐베르트가 제안한 이상적인 전제는

1. 모순을 품고 있어서는 안된다. (무모순성)

2. (유한 번의 단계를 거쳐서) 모든 명제의 참 거짓을 가려줄 수 있어야 한다. (완전성)

힐베르트가 제시한 공리는 플라톤적 의미에서의 자명한 진리에 바탕을 둔 것이 아니라 그저 무모순성만 만족하면 되고 완전성을 만족하면 더 좋은 그런 인간이 정한 규칙일 뿐이다.

플라톤주의에서는 객관세계가 수학의 진리성을 보장해 주며 직관주의에서는 인간 직관의 존재가 수학의 진리성르 보장해준다. 형식주의에서는 규칙(전제)이 의존하는 선험적 원리나 대상이 없으므로 그 규칙의 정당성은 규칙 자신이 보장해야 한다. 무한 집합론 공리 체계의 무모순성과 완전성은 '공릭체계 자신'이 스스로 확보해야 한다는 것이다. 하지만 1931년 25세의 청년 수학자 괴델은 자연수론을 포함하는 그 어떤 공리체계도 완전하게 구성할 수 없고 도한 모순이 없게 구성할 수 조차 없다는 사실을 증명해 버린다. 이것이 괴델의 불완전성 정리이다.

이렇게 해서 수학의 역사는 철학의 역사와 맞물려 굴러 왔다. 현대의 수학은 이제 어디로 가고 있는가?