괴델, 에셔. 바흐 - 영원한 황금 노끈(제8장 활자형 수론)

괴델,에셔,바흐- 영원한 황금 노끈

 

제8장  활자형 수론

 

"게카논"은 형식과 내용에 있어 흥미로운 점을 포함하고 있다. <어느 한 층위에서는 이해하지만, 다른 한 층위에서는 이해하지 못한다> 바로 이점을 "게카논"을 통해서 이야기하고자 한 것 같다.

 

8장에서는 활자형 수론(TNT)라는 형식체계를 소개한다. 놀랍게도 이 TNT는 모든 수론의 정리들을 형식화할 수 있는 것처럼 보인다. 예를 들면 '5는 소수이다' 또는 '무한하게 많은 소수들이 존재한다'와 같은 명제들을 기호를 사용하여 표현할 수 있다는 것이다. 그리고 TNT형식체계의 공리와 규칙들을 사용하여, 여러가지 정리들을 유도해 낼 수 있다는 것이다. 다시 말해 재귀연산을 통해 참 명제(정리)들을 생산해 내고 그 결과 거짓명제를 구별할 수 있을 것처럼 보인다는 것이다. 만일 TNT 체계가 그 일을 성공적으로 해 낼 수 있다면 이는 우리가 모든 진리를 비진리로 부터 구별할 수 있는 활자형 방법론을 가지게 된다는 것을 의미한다. 하지만 그것이 가능할까? 이 책의 취지로 보건데 그건 가능하지 않을 것같다.  

 

페아노의 다섯개의 공준

1889년 페아노는 자신의 공준을 제안하면서 유클리드의 방식을 따랐다. 유클리드는 기본적인 4~5개의 공준을 기초로 다른 기하학적 정리들을 유도해냈다. 페아노는 추론적 사고의 원리들을 공식화하지는 않았지만, 추론적 사고를 통하여 다른 모든 것들을 유도시킬 수 있는 자연수의 속성의 작은 집합을 제시하고자 했다. 이렇게 함으로 페아노는 자연수의 개념을 정의하고자 했다.

수학자들은 대체로 페아노가 그의 다섯개의 공준으로 자연수의 본질을 지적하는데 성공했다고 믿는다. 하지만 그의 성공이 "우리가 자연수에 대한 참명제와 거짓 명제를 어떻게 구별할 수 있는가?"라는 문제의 답은 제시하지 않는다. 그래서 이 문제에 답하기 위해서 수학자들은 TNT와 같이 전적으로 형식적인 체계에 몰두했다.

 

그렇다면 TNT 체계는 바로 수학자들이 원했던 그런 체계일까?

 

ω-불완전 체계들과 결정 불가능한 연쇄체

"한 피라미드 가족의 모든 연쇄체들이 정리이지만, 전칭양화처리된 요약하는 연쇄체가 정리가 아닐 경우, 하나의 체계는 ω-불완전하다. 이것은 어떤 연쇄체는 체계안에서 결정 불가능하다는 것을 의미한다. 그런데 "결정불가능하다"라는 말은 '그 체계가 계속 확장될 수 있다는 데 대한 징후일뿐이다' 다시 말하자면, 결정불가능을 결정가능으로 만들기 위해 그 상위의 형식체계로의 확장의 가능성이 열려있다는 말이다. 예를 들어 유클리드 기하학에서의 절대기하학은 "점" "직선"이라는 용어의 의미를 제대로 정의하지 않았기에 - 무정의 용어로 사용했기때문에, 그 결과 그 개념의 다양한 확장을 위한 여지가 남아있게 되는 것과 같다. 유클리드 기하학에서 점과 직선은 "점"과 "직선"이라는 개념들의 일종의 확장을 제공하며, 비유클리드 기하학의 "점"과 "직선"은 다른 확장을 제공한다.

 

ω-모순은 모순과 다르다.

1) 모든 자연수들이 일정한 속성을 가진다고 집단적으로 주장하는 정리들의 피라미드 가족과 2) 모든 수가 일정한 속성을 가지지는 않는다는 것을 주장하는 것으로 보이는 유일한 정리를 대립시킴으로써 생기는 그런 종류의 모순을 ω-모순이라고 한다.

ω-모순적인 체계는 인정하기 힘들지만 결국 받아들일 수 밖에 없는 비유클리드 기하학과 같은 것이다. 이 모순처럼 보이는 상황을 해결하기 위해서는, 자연수와는 다른 예기치 못한 "별도의" 수가 있다고 가정해야 한다. 그것을 "자연수"가 아니라 초자연수라고 해보자, 그렇다면 그 수(초자연수)들은 피라미드 가족에서는 표현될 수 없다. 결국 모든 것이 제대로 운용되게끔 기호들을 해석하는 방법이 있기때문에, 그것은 알고 보면 진정한 모순은 아니다.

 

-> 의미는 어디에 있는가? 라는 장에서, 메시지는 세개의 층위를 가지고 있음을 말한 바 있다. 그중 외부메시지는 의미심장하다. 위에서 언급한 "...모든 것이 제대로 운용되게끔 기호들을 해석하는 방법이 있다"는 것은 바로 외부메시지와 관련이 있는 것이다. 의미를 이해하는 데는 내부 메시지만이 아니라 외부메시지의 영향도 무시할 수 없다는 사실, 즉 지능적인 방법으로 일을 처리하는 방법 - 자신의 체계에 대해 사고하는 - 은 체계 외부에서만 가능하다는 것을 다시 한 번 일깨워주는 것 같다.

 

힐베르트의 프로그램

다비드 힐베르트의 지휘아래 , 수학 및 논리학의 중요한 학파에 의해서 금세기 초반에 추진되었던 희망사항 및 목표는 무모순성을 지닌 수론을 공식화하는 것이었다. 이 수론은 "유한론적"입장으로 불리는 매우 제한된 집합의 추론 원리들을 적용하여 TNT와 유사한 수론의 무모순성을 증명하는 것이었다. 하지만 괴델은 TNT의 무모순성을 증명할 만큼 충분히 강력한 그 어떤 체계도 최소한 TNT 자체만큼 강력하다는 것을 증명하였다. 체계내에서는 그 체계의 무모순성을 증명할 수 없다는 말이다. 그 체계의 메타체계, 그리고 메타메타체계...등 끝없이 이어지는 순환성을 피할 수는 없다는 것이다.