Continuum hypothesis
수학자 게오르크 칸토어가 제시한 가설. 가설의 내용은 '초한기수 [math] \aleph_0 [/math] 보다 크고 [math] 2^{\aleph_0} [/math] 보다 작은 기수를 가지는 무한집합이 존재하지 않을 것이다'는 것이다. 즉, [math] 2 ^{\aleph_0} = \aleph_1 [/math] 가 성립한다는 것. 여기서 [math] \aleph_0 [/math] 은 자연수, 정수 등의 가산 집합의 크기, [math] \aleph_1 [/math] 은 비가산집합 중 가장 크기가 작은 집합의 크기를 말한다. 간단히 말하자면 '원소의 개수가 자연수의 개수보다 많고 실수의 개수보다 적은 그런 오묘한 집합이 존재하느냐'에 대한 문제이다.
이를 일반화한 가설로,
어떠한 서수 [math] N [/math]에 대해서 더 [math] \aleph_N [/math] 보다 크고 [math]2 ^{\aleph_N} [/math] 보다 작은 기수를 가지는 무한집합이 존재하지 않는다.[2] 즉, [math] 2^{\aleph_N} = \aleph_{N+1} [/math] 가 성립한다
한편, 실무한이랑 가무한과 좀 다른 개념이다. 가무한이란 함수의 극한에서 말하는 무한, 즉 '어떤 수를 가져와도 그것보다 더 크다'는 의미이다. [3] 따라서 이는 일종의 상태이지, 수가 아니다. 그러나 칸토어가 정립한 실무한은 이것과는 좀 다르다. 가령, '자연수 전체의 개수'를 수로 정의한다면, 최소한 무한대는 이것보단 많거나 같아야 할 것이며 어떤 유한한 숫자도 이보다 작을 것이다. 대충 이러한 발상으로 만들어진 것이 실무한이다. 자연수, 정수, 유리수의 개수가 모두 같고, 실수는 그보다 많다는 것이 초한기수를 통해 증명된다. 여기서 말하는 '개수'가 바로 실무한으로서의 의미이다.
집합론을 정립하는 과정에서 칸토어는 처음에 '자연수의 집합과 짝수의 집합의 크기는 같다'고 주장했으며, 이는 처음에 '뭔 소리냐? 짝수는 자연수의 부분 집합이 어떻게 부분이 전체랑 크기가 같아?'라는, 유클리드 제 5공리인 '전체는 부분보다 더 크다.'는 것에 배치되는 것이라 논란에 휩싸였으나, 칸토어의 일대일 대응에 의한 증명을 통해 '어? 네 말, 뭔가 이상한데(?) 맞는거 같어.'라고 인정하게 된다.
칸토어는 '자연수 전체 집합의 모든 부분집합의 집합'과 실수 집합 사이에는 일대일대응이 존재한다. 즉, 원소의 개수가 같다는 사실을 발견했는데, 이로부터 칸토어는 아무 무한집합에 대해 '그것의 부분집합 전체의 집합(멱집합)'은 그것보다 기수가 높은 또 다른 무한집합이 된다는 것을 알게 된다. 무한에도 급이 있다, 즉 자연수의 원소의 갯수와 실수의 원소의 개수는 차이가 난다는 것을 대각선 논법을 통해 보였다. 멱집합의 개념을 통해 "무한의 기수"가 다르다는 것을 처음 증명한 사람인데 이 당시에는 무한의 개념조차 제대로 잡히지 않았던 상태여서 많은 수학자들의 반발을 샀고, 이 때문에 뭐만 발표했다 하면 야유가 쏟아져나오는 지경에 이르렀다. (그리고 자신의 스승에게도 버림받았다. 정수만이 진정한 수라고 생각한 칸토어의 스승 크로네커는, 칸토어의 무한 이야기가 헛소리라고 생각했다. 그리고 여러 학술지에 칸토어가 논문을 게제하지 못하게 끊임없이 노력했다고 한다. 인성...) 이런 환경에서 아무 수학자도 무한의 기수를 인정하지 않아(대표적으로 푸엥카레가 그랬다) 홀로 기수에 대한 체계를 정립하기 위해 쇠약한 정신을 무리하게 이끌어내려 했으니.
그래서 칸토어는 자연수 집합과 그 멱집합 사이에 또 다른 기수의 무한이 존재하는지가 궁금해졌고, 남은 평생을 이것을 알아내는데 몰두하다가 정신병원에서 사망했다(...).
그는 정신병을 앓고 있었을 때, 셰익스피어-베이컨 가설 이라는 괴상한 가설에 매달려 있었다. 그 가설의 정체는 바로 '셰익스피어의 희곡은 사실 프랜시스 베이컨이 쓴 것이다.' 라는 것. 그는 이 가설이 참이라고 생각하고 이를 증명하기 위해 끊임없이 매달렸다. 한번은 칸토어의 무한 강의를 기대하고 있는 세기의 수학자들 앞에 셰익스피어-베이컨 가설에 대한 강의를 하셨다고(...) 이 가설에 대한 칸토어의 열의는 말년에 그가 '셰익스피어의 희곡을 모두 수집했다.' 라는 사실로 알 수 있다.(바람직한 셰익스피어 덕후의 자세)
칸토어 사망 이후에는 "칸토어는 우리를 위해 무한이라는 낙원을 만들고 갔다. 그 무엇도 우리를 이 낙원에서 쫒아낼 수 없을 것이다"라며 칸토어의 죽음을 애도한 친구 다비드 힐베르트가 이 문제를 이어받게 되고, 결국은 현대수학에서 중요한 문제들을 모은 힐베르트의 23가지 문제에서 1번 문제의 자리를 차지하는 영광을 누렸다.
이 문제는 1940년, 1963년에 2번의 증명을 거쳐 해결되었다. 하지만 수학을 전공하지 않은 사람은 이하의 내용에 혼란이 올 수도 있다. 이 해답은 일반적인 수학과 굉장히 괴리된 해답이기 때문.
답이 무엇이냐 하면...
존재한다고 해도 상관 없고 존재 안 한다고 해도 상관없다 이다. 즉, 이 가설 자체를 수학적으로[4] 증명하거나 반증하는 것이 불가능하다.
...?!!이게 어떻게 수학에서 할 소리냐!! 라고 하고 싶은 분들도 계실 것이나, 이게 결론이다. 무슨 말이냐 하면, 이 명제를 참이라고 하건 거짓이라고 하건 현재 존재하는 수학의 공리들과 전혀 모순되지 않는다는 것이다.
1940년에 쿠르트 괴델에 의해 "참이라고 가정했을 때 모순이 없다"가 증명되었고, 이어서 1963년에 폴 코언[5]에 의해 "거짓이라고 가정했을 때 모순이 없다"가 증명되었다. (그는 '강제(Forcing)'이라는 새로운 아이디어를 사용하여 증명하였다) (그리고 강제로 증명되었다) 즉 연속체 가설이 참이든 거짓이든 뭘 선택해도 수학에서는 아무런 하자가 없다는 것이다.
그래서 있다는 거냐 없다는 거냐...라고 한다면, 있다고 하고 싶으면 있다고 하고 없다고 하고 싶으면 없다고 해도 상관 없다...라고밖에 대답할 수가 없다. (그래서 있다고 하고 시작하는 수학분야와, 없다고 하고 시작하는 수학분야가 생겼다. 마치 유클리드 기하학이나 리만 기하학처럼)
연속체가설을 참이라고 해도 하나의 수학이되고 거짓이라해도 마찬가지인데 심지어 굳이 참 거짓을 정하지 않고 내버려둬도 된다. 현재 수학의 주류는 굳이 정하지 않는것인데 그 이유는 연속체가설이 참이면, 문제들이 너무 쉬워지기 때문이라고
참도 거짓도 아닌 명제라는 것이 일반적인 대중이 쉽게 받아들일 수 있는 것은 아니지만 이것이 진실이다. 괴델은 불완전성 정리에 의해 "증명될 수 없는 명제"의 존재 가능성을 증명했고, 그것이 이 연속체 가설의 실체이다. 이 항목의 이 결론을 도저히 이해할 수 없다면 상기한 불완전성 정리 항목을 읽기를 추천한다.
이는 불완전성 정리에서 말하는 "참이지만 증명할 수 없는" 명제의 최초로 유의미한 사례였다. 괴델이 불완전성 정리의 증명에서 예로 든 사례들은 분명 참이고 증명할 수 없기는 했지만 수학적으로는 의미가 없는 것으로서, 많은 수학자들은 수학적으로 중요한 의미가 있는 명제에는 해당되지 않을 것이라고 믿었다. 그러나 괴델과 코헨이 연속체 가설이라는, 수학적으로 대단히 중요한 명제가 그 범주에 들어간다는 것을 보였던 것이다. 덕분에 수학자들은 페르마의 대정리 등이 증명되기 전까지 혹시 그런 명제들이 증명 불가능한 것이 아닌지 불안해하지 않을 수 없게 되었다.