귀류법

1 설명

불합리로의 회귀, Reductio ad absurdum; RAA (라틴어)

기본적인 추리 규칙 중 하나이면서 간접증명법 중의 하나이다. 논증의 타당성을 보이기 위해 사용한다.

어떤 논증이 타당하다면 논증의 전제는 결론을 함축하고 있다. RAA는 결론의 부정은 참인 전제들[1]로부터 연역될 수 없음을 보임[2]으로써 논증이 타당함을 간접적으로 증명하는 추리 규칙이다.

뭔 개소린가 싶으면, 쉬운 설명이 있다: A가 B라는 걸 증명하고 싶다면, A가 B가 아니라고 가정했을 때 오류가 발생함을 증명해라!

형식 논리학에서 RAA를 다음과 같이 표현한다. 다음 표현은 위 문단에서 설명한 RAA를 나타내는 것에 주목하라. 가장 첫줄에서 p이면 ~q가 선언지로 첨가Add되면서 시작된다.

[math]p\rightarrow(q\wedge(\sim q))[/math]
[math]p\rightarrow\sim\sim q[/math]
[math]\therefore p\rightarrow q[/math]


예를 들어 'A는 B이다'란 명제가 있다고 하면, 처음엔 'A는 B가 아니다'라고 결론을 뒤집어 놓은 뒤 여기서 (증명하는 사람이 제대로 한다면, 꼬일 수밖에 없는) 추론을 시작해서 결국엔 자기 의도대로 꼬아주고 'A가 B가 아니면 왠지 이상해진다. 이런 이상한 결론이 나온 이유는 처음에 B가 아니라고 시작했기 때문에, 그래서 B다'란 결론을 이끌어 내는 것. 즉 귀류법을 제대로 쓸 수 있으려면 애초부터 틀린 가정을 자의로 한 다음, 그 다음 이어지는 논리 전개가 증명자가 병신이라서 꼬인 게 아니라 주어진 가정이 거짓이기 때문에 꼬인 거라는 걸 똑바로 보여야 하므로, 해당 학문의 기본개념에 대한 이해와 증명 과정을 매끄럽게 풀어나갈 수 있는 말빨 모두가 중요하다. (수식으로만 이뤄지는 귀류법이어도, 계산 과정을 매끄럽게 보여줄 수 있는 능력은 언어능력에서 기반한다.) 기초 실력과 말빨 둘 중 하나라도 부족하면 귀류법을 쓰다가 증명자 자신이 꼬여버리는 경우가 적지 않게 발생한다.

특성상 1. 논지의 전개 과정을 명백하게 보여줄 수 있고 2. 당연한 걸 증명해야 하는 경우가 많으며 3. 임의의 명제 p가 맞거나 틀리거나 두 가지 경우밖에 없으며 제 3의 선택지는 배제되는 배중률[3]이 적용되는 명제인지 여부를 의심없이 말할 수 있는 수학에서 자주 쓰인다. 사실 귀류법이란 논법 자체를 수학 공부하다가 배우는 일이 많다. 수학에서 쓰이는 용어 중에 '~이 아니다'로 정의되는게 있는데 이럴 때 사용하면 좋은게 귀류법이다. 예를 들자면 '무리수'는 '유리수가 아닌 실수'로 정의되기 때문에 어떤 수가 무리수임을 보일 때는 '유리수라고 가정하자'로 시작하는 것이고, '연결공간'이란 '비연결이 아닌 공간'으로 정의되기 때문에 어떤 공간이 연결임을 보일 때는 '비연결이라고 가정하자'라고 시작하는 것이다.

그런데 다들 귀류법을 쓴다는 걸 의식을 안 할 뿐이지 수학이 아닌 일상 회화에서도 많이 등장하는 논법이기도 하다. "자, 네 말이 맞다고 해 보자. 그러면......" 이게 바로 귀류법식 논법이다. 인터넷 논쟁이나 나무위키에서도 자주 쓰인다. 그러나, 여기서 '......'의 부분이 확실히 틀렸다는 점을 설명/증명하지 않으면 제대로 된 논증이 아닌 그저 감정/권위 등에 호소하는 오류가 될 뿐이니 신중하도록 하자. 상대방이 '......가 맞아. 뭐가 문제지?' 라고 반박할 수도 있기 때문이다.

2 [math]\sqrt{2}[/math]가 무리수임의 증명

고등학생 레벨에서 제일 유명한 사례는 [math]\sqrt{2}[/math]가 무리수임을 증명하는 문제 원래는 서울대학교 본고사 문제였다. 나왔을 당시에는 수험생들에게 충격과 공포를 선사해 주었다고 하지만 특별한 테크닉이 필요없어 난이도도 상당히 낮고, 문제가 뜬 뒤로 전국에 소개되어 지금은 제대로 공부한 고등학생이면 누구든지 증명할 수 있는 문제가 되어 버렸다. (일부 중3 교과서에도 나오고, 사실 과고 대비중이라면 중학교 저학년 때 찝적거릴 수도 있다.)

[math]\sqrt{2}= p/q[/math] (단 [math]p[/math]와 [math]q[/math]는 서로소인 자연수[4]. )로 놓은 다음에, 양변을 제곱하여 [math]p[/math]와 [math]q[/math]가 모두 [math]2[/math]의 배수가 된다는 것을 증명하는[5][6] 방식으로 한다.

2.1 초보적인 증명 : [math]\sqrt{2}[/math]가 유리수가 아님의 증명

고등학교 교과과정상으로는 다음과 같은 과정을 거친다.

  1. 고등학교 교과과정에서 무리수를 "유리수가 아닌 실수"로 정의함을 안다.
  2. 유리수의 정의가 "서로소인 두 정수 [math]p[/math]와 [math]q[/math]가 있을 때, [math]p/q[/math](단, [math]q\ne0[/math])로 표현 가능한 수"임을 설명한다.
  3. [math]m^2[/math]가 [math]2[/math]의 배수이면 [math]m[/math]이 [math]2[/math]의 배수임을 보인다.[7]
  4. 귀류법을 이용하여 [math]\sqrt{2}[/math]가 유리수라고 가정했을 때, [math]p[/math]와 [math]q[/math]가 [math]2[/math]라는 공통인수를 가짐을 보인다.[8]
  5. 이는 [math]p[/math]와 [math]q[/math]가 서로소라는 가정에 모순이므로 [math]\sqrt{2}[/math]가 무리수라고 결론짓는다.

2.2 대수학적으로 진짜 엄밀한 증명

위의 증명에서 논리적 비약을 찾았는가? 엄밀히 말해서 위의 증명은 [math]\sqrt{2}[/math]가 실수라는 것을 그냥 깔고 들어가고 있다. 즉, [math]\sqrt{2}[/math]가 실수 집합에 속한다는 것이 먼저 증명되어야 한다.

실수의 구성방법에는 공리적 방법과 구성적 방법이 있는데, 구성적 방법은 페아노 공리계로 부터 시작해 유리수를 구성하고, 데데킨트 절단이나 코시 수열을 이용하여 무리수를 만드는 방법이다. 공리적 방법은 체의 공리, 완비성 공리, 순서 공리를 만족하는 수체계를 실수라고 정의하는 방법이다. 일반적으로는 공리적 방법을 많이 사용한다. 구성적 방법으로 실수를 구성하는 것은 매우 어렵다. 혹시 궁금하다면 Rudin의 Principle of Mathematical Analysis의 1장 부록에 실수 구성 방법이 10단계에 걸쳐 나와 있다.이해할수만 있다면 말이지

중등교육과정은 이러한 공리들을 언급하고 있지 않기 때문에, 관념적으로 사용하는 실수에 대해 모든 양수에는 제곱근이 되는 실수가 당연히 있다고 가정하고 있기에 여기까지만 해도 증명이 되지만, 대수학적으로는 [math]\sqrt{2}[/math]가 무리수임을 보이려면 [math]\sqrt{2}[/math]가 실수임을, 다시 말해 완비성 공리를 이용하여 실수체의 원소 중에 [math] x^2 = 2 [/math] 를 만족하는 원소가 있는지를 먼저 보여야 한다.

여러가지 방법이 있으나 시중의 웬만한 해석학 입문용 교재에 [math]\sqrt{2}[/math] 한정으로 그 존재성을 밝히는 과정이 있으니[9] 그걸 참고해도 좋겠다. 대부분의 경우 데데킨트 컷이나 코시 수열, 실수의 완비성으로 증명하는데, 어떻게 증명하든 그 과정에서 실수 구조 자체를 엄밀하게 구성하는 방법을 요구하기 때문에 고등학교 과정에선 이를 다룰 수 없는 것이 당연.

3 여담

이 논법은 니시오 이신의 소설 '데스노트 어나더 노트 로스앤젤레스 BB 연속 살인사건' 후반부에 미소라 나오미가 살인사건의 범인인 'B'를 잡는 데에 쓰이기도 했다.

특이하게 과학 명제의 증명에서도 쓰일 수가 있는데 대표적으로 열역학 법칙 같은 표현을 증명할 때도 쓰인다.
  1. ↑ 각각의 전제를 P1, P2, ..., Pn으로하고, 전제의 연언을 Pr이라고 할 때, Pr은 참T을 진리값으로 가진다.
  2. ↑ Pr이 T이고 원래 논증의 결론의 명제를 부정으로 바꿔서 새로 가정한 명제의 진리값은 F이다. 즉 전제는 참이고 결론은 거짓인 부당한 형식임을 보인다.
  3. ↑ 고전논리에서는 [math]p\vee\sim p[/math]가 항진명제여야 한다. 다만 직관주의를 받아들이는 수학자들은 배중률과 이중부정규칙([math]p\leftrightarrow\sim\sim p[/math]) 인정하지 않기 때문에 이들은 어떠한 조건을 만족시키는 대상이 존재한다는 것을 밝히기 위해 귀류법을 사용하지 않고 그 조건을 만족시키는 대상을 직접 찾는 방식을 쓴다.
  4. ↑ 참고로 우변이 유리수의 정의. 따라서 이 식은 '[math]\sqrt{2}[/math]는 무리수이다'라는 사실을 일단 부정한 것
  5. ↑ 즉 멀쩡한 명제의 결론을 부정했더니 말이 안 되더라는 것을 보여주는
  6. ↑ 다른 방법으로 제곱한다음 양변을 소인수분해 했을시 '[math]2[/math]의 개수'가 서로 다르다는 방식으로도 증명이 가능하다. 좌변은 [math]2[/math]가 홀수개, 우변은 짝수개 이므로
  7. ↑ 이 역시 귀류법을 이용하거나 대우증명법을 이용해서 증명해주어야 한다.
  8. ↑ [math]\sqrt{2}=p/q[/math] 에서 양변을 제곱하면 [math]2=p^{2}/q^{2}[/math] 가 되고, 이를 정리하면 [math]p^{2}=2q^{2}[/math]가 된다. [math]p^2[/math]이 [math]q^2[/math]의 [math]2[/math]배이므로 [math]p^2[/math]는 짝수이고, 자연스럽게 [math]p[/math]도 짝수임을 알 수 있다.([math]p[/math]가 홀수라면 [math]p^2[/math]도 홀수여야 한다. 그렇지 않으므로 짝수) [math]p[/math]를 어떤 정수 [math]r[/math]의 [math]2[/math]배라고 표현하여 식에 대입하면 [math]4r^2=2q^{2}[/math], 즉 [math]q^2=2r^2[/math]이고 따라서 [math]q[/math]도 짝수임을 알 수 있다.
  9. ↑ Rudin의 Principle of Mathematical Analysis가 대표적이다. 김김계 서울대학교 해석개론 교재에는 임의의 양수에 대한 증명이 나와 있다. 유일성은 덤.