발견법

1 개요

심리학에서 인간의 추론, 의사결정, 문제해결 등의 특징을 기술하기 위해 사용되는 개념.

휴리스틱(Heuristic)의 번역어로서, '발견법' 외에도 '추단법' 등의 용어를 쓰거나 그대로 음을 옮겨 '휴리스틱'이라고 쓰기도 한다.

알고리즘과 대비되며, 굳이 이분법적으로 접근하면 인간의 '직관'을 반영하는 사고방식으로, 시간이나 자료의 부족, 인지적 자원의 제약, 문제 특성 등의 이유로, 답을 도출하기 위한 정확한 절차를 사용하지 않고 경험과 직관에 의존해 '대충 때려맞추는' 방법.

2 왜 휴리스틱을 사용하는가?

휴리스틱을 이해하기 위해서는 이와 대비되는 알고리즘을 함께 이해해야 하는데, 문제를 해결하기 위해 정해져 있는 절차가 있고 이를 사용하면 반드시 문제를 풀 수 있는 경우, 사람들은 이러한 절차를 사용한다.

2x + 3 = 9

예를 들어, 위와 같은 방정식에서 해를 구하라는 문제가 주어졌을 때, 방정식 풀이를 배운 사람이라면 양변에서 3을 빼고 또 다시 이를 2로 나누면 'x=3'이라는 답을 얻을 수 있음을 알고 있다. 즉, 우리는 문제를 해결하기 위해 필요한 절차를 알고 있으며, 이를 이용해 해를 얻을 수 있다. 이러한 문제 해결 방식을 알고리즘(적 문제해결)이라 한다. 다른 말로 표현하면, '알고리즘'적으로 문제를 해결한다는 것은 주어진 정보를 가지고 추론을 거듭하여 엄밀한 답을 도출해내는 것이다.

2.1 시간과 정보의 제약

그러나 이러한 절차를 적용할 수 없는 상황이 일상 생활에서는 수도 없이 발생한다. 가장 빈번한 경우는 절차를 적용하기 위해 필요한 시간이 부족하거나, 문제를 그러한 방식으로 해결하기 위해 주어져야 하는 정보가 100% 주어지지 않은 경우. 이러한 때는 어쩔 수 없이 알고리즘을 적용할 수 없다.

예를 들어, 위기일발 무한도전 PLAN B - 정 총무가 쏜다에서 정 총무는 개그맨 후배들이 먹은 회전초밥의 가격을 계산하기 위해 일일이 가격별 접시의 수를 세고 이를 더할 시간이 없었다. 때문에 정 총무는 나름대로 초밥의 가격을 어림잡는 방법을 사용했는데, 이런 경우가 휴리스틱을 활용하는 전형적인 방식 중 하나라 할 수 있다.

알고리즘: (1300원짜리 접시 × a개) + (2000원짜리 접시 × b개) + …

휴리스틱: "접시가 한 200개 되는 것 같은데 그 중 절반은 (가격대의) 절반으로 따지면 한 5000원 되잖아요? 거기에 나머지는 1300원, 2000원, 이런 접시가 많더라구."

2.2 인지적 자원의 제약

'인지적 자원의 제약'이란, 말 그대로 인간이 정보를 처리하기 위해 사용할 수 있는 에너지(주의, 생물학적 에너지, …)는 정해져 있다는 것이다. 때문에 일일이 절차를 밟아나가야 하고 따라서 에너지를 많이 사용하게 되는 알고리즘적 접근 대신에, 흡사한 정확도·정밀도 등을 기대할 수 있으면서 훨씬 에너지를 적게 사용하는 휴리스틱적 접근을 사용한다는 것.

심리학에서는 인간의 마음이 정보를 처리하는 과정에 대해 '자원을 투입'한다는 비유를 사용한다. 실제로 정보처리를 위해 인간은 '주의(attention)'를 두는 것을 필요로 하기도 하며, 인간이 정보를 처리하는 과정에서 두뇌는 지속적으로 에너지를 소비하기에, 이는 심리학 내부적으로도 생물학적으로도 타당한 비유이다. 그리고 인간이 주의를 두어 마음 속에 잠시동안 담아놓을 수 있는 정보의 양은 한정되어 있으며(이를 '작업기억 용량'이라 한다.), 생물학적으로도 인간이 체내에 담아둘 수 있고 그 중에도 두뇌에 할당할 수 있는 에너지는 극히 한정되어 있다. 때문에 가급적이면 인간은 정보처리에 에너지를 적게 들일 필요가 있는 것이다. 거칠게 말하면 귀차니즘인데, 실제로 이러한 인간의 성향을 '인지적 구두쇠(cognitive miser)'라는 위트 있는 표현으로 나타내기도 한다.

저녁 식사 메뉴를 정해야 하는 상황을 생각해보면 쉽게 이해할 수 있다. 해야 할 일이 적거나 배가 적당하게 고픈 상황에서는 뭘 먹을까 깊이 고민하고 만족을 극대화할 수 있는 메뉴를 고르겠지만, 할 일이 산더미처럼 많거나 배가 너무나도 고픈 상황에서는 일단 먹을 수 있으면 되지!!!라고 생각하지 찬 밥 더운 밥 가리는 경우는 거의 없다.

2.3 문제의 특성

문제의 특성에 따라서 알고리즘적 해법이 도저히 존재하지 않는 경우는 어쩔 수 없이 휴리스틱을 이용할 수밖에 없다. 사실 인간이 생활 속에서 마주치는 '문제'라는 것이 매우 다양하기 때문에 그 특성도 다양할 수밖에 없는데, 이로부터 생기는 문제라는 것.

예를 들어, 앞에서 언급한 수학문제나 물리학 문제와 같이 논리적으로 닫힌 체계 안에서 설정되는 문제는 그 체계에서 전제하는 논리적 법칙들을 연쇄시키면 해결할 수 있다. 또, 집에서 학교까지 가장 빠르게 가는 방법이라든가, 정해진 비용 안에서 물건을 구매해야 하는 등의 문제는 어느 정도 알고리즘적인 방식을 적용하여 문제를 해결할 수 있다.

그러나 작게는 '오늘은 무슨 옷을 입고 가야 할 것인가?', 크게는 '아프리카의 빈곤 문제를 어떻게 해결해야 할 것인가?'와 같은 문제들은 딱히 알고리즘적인 해법이랄 것이 존재하지 않는다. 이런 경우에는 어쩔 수 없이 적절한 답을 도출해줄 수 있는 다른 방법을 사용하는 수밖에는 없는 것.

3 발견법의 득과 실

인간은 발견법의 귀재이다. 심지어 컴퓨터 이상으로. 길게는 수 억 년동안 진화된, 짧게는 전문성을 쌓는 과정을 통해 체화된 이 직감과도 같은 발견법은 인간으로 하여금 컴퓨터가 순식간에, 또는 경제적으로 하지 못하는 일들을 순식간에, 경제적으로 해치우도록 돕는다. 예를 들면 아래와 같은 것들이 있다.

  • 야구 수비수가 포물선으로 떨어지는 공 잡기:

컴퓨터를 이용하자면 미분을 이용해서 공이 운동하는 궤도를 예측해야 한다. 인간은 야구공이 마치 제자리에 있으면서 크기만 커지는 것처럼 보이는 위치를 찾은 후, 공이 계속해서 제자리에 있는 것처럼 보이게 자신의 위치를 서서히 조정하면서 공이 떨어지는 순간에 잡는다.

  • 체스나 바둑에서 빠르게 최적의 수 찾기:

컴퓨터는 가능한 모든 수를 계산해본 다음 가장 좋은 수를 고르는 방식을 주로 사용하고, 따라서 비경제적일 수 밖에 없다. 반면에 인간은 빠른 결정을 내리는 데 있어서 경기판의 대략적인 판도를 읽어내고, 판도 내에서 가장 활용하기 좋을 말을 대충 추려내고, 그 말의 경우의 수를 고려해 결정을 내리는 방식을 사용하게 된다. 컴퓨터에 비해 부정확할 수는 있지만 상당히 경제적으로 나름 괜찮은 수를 빠르게 선택해낼 수 있다.

  • 뱀이나 호랑이, 화난 얼굴의 이방인이 보이면 본능적으로 도망치기:

인간은 장애가 있지 않은 이상 사람의 표정을 잠깐 보는 것 만으로도 그 사람이 화가 났는지 기쁜지 슬픈지 대충 가늠할 수 있다. '화난 표정'에 대한 간단한 기준을 가지고 이를 적당히 분류해내기 때문이다. 가령, 미간에 잡힌 주름, 끝이 치켜올라간 눈썹, 입꼬리를 내린채 앙다물거나 크게 벌린 입 등등을 보면 '이 사람이 화났을 것이다'라는 인상을 얻어낼 수 있다. 컴퓨터라면 모든 '화난 표정'의 목록들과 현재 표정을 일일히 대조해봐야 할 것이다.

  • '의자' 알아보기:

인간은 "의자"를 상당히 쉽게 알아본다. 무슨 소린가 싶겠지만 일반적인 컴퓨터에게 막연한 물체 하나를 주고 의자인지 아닌지 알아보라고 명령하면 한참이 걸릴 것이고, 또 인간의 기준으로, 컴퓨터가 내놓은 답은 대부분 틀릴 것이다.
의자가 무엇인지를 컴퓨터가 이해하고 또 어떤 물체가 찍힌 사진을 보고 해당 사진이 의자를 찍은 사진인지 아닌지 구분할 수 있도록 명령어를 넣는다고 생각해보자. 그렇다면 의자란 무엇인가? 네발 달린, 앉을 수 있는 것? 네발이 달리지 않은 의자도 많다. 두발이 달렸거나 발이 하나거나, 아예 발이 없이 기둥형인 의자 등등. "앉을 수 있는 것" 이라는 정의도 상당히 애매하다. 길가에 놓인 차량이나 큰 바위나 아니면 그냥 땅바닥 조차도 앉을 수만 있다면 의자란 말인가? 의자라는 물체를 논리적으로 정의하고, 또 이 논리적 정의를 물체를 볼 때마다 매번 적용하는 것은 엄청난 노력을 요구한다.
반면 사람은 그냥 척 보면 척, 좀 독특하게 생겼더라도 그 물체가 어지간하면 의자가 맞을지 아닐지 판단을 내릴 수 있다. 쿠션이 달렸다던지, 책상 옆에 놓였다던지 하는 몇가지 특징들과 맥락들을 보고 의자인지 아닌지 '대충 지레짐작' 할 수 있기 때문이다. 직육면체에 원통형으로 생겼고, 쿠션도 뭣도 없다. 그런데 책상 옆에 놓여있다면? 의자일 것이다. 도로 한 복판에 놓여져 있지만 네 발이 달렸고 가죽 쿠션도 있고, 등받이도 있다. 그렇다면 버려진 의자일 것이다. 이를 판단하는 데 그 누구도 '과연 의자일까?'라며 깊이 생각할 필요가 없다. 인간은 발견법을 이용하기 때문이다.
물론 논리적으로 문제를 따져본다면 이러한 발견법적 추론은 '정답'은 아니다. 책상 옆에 놓였다거나 쿠션이 달렸다고 꼭 의자라는 법은 없으니까. 하지만 의자인지 아닌지를 구분하는 게 굳이 논리적 접근을 요구할만큼 중요한 사항도 아니고, 앞서 설명했듯 해먹기도 정말 어렵다. 발견법은 이런 문제에 대해 매우 쉽고 간단하게 해답을 제공할 수 있다. CAPTCHA가 이걸 이용해서 인간과 매크로를 구분하는 대표적인 예시다.

3.1 득: 일단 문제는 풀린다

발견법을 이용하는 것은 정밀한 문제 해결보다는 현실적으로 만족할 만한 해답을 내놓기에 더 특화되어 있다. 즉, 알고리즘적 문제 해결이 일종의 '최적화(Optimization)'를 지향한다면, 휴리스틱에 의한 문제 해결은 '만족하기(Satisficing)'를 지향하는 것이다. 정확하지는 않을 지언정 빠른 시간 내에 가장 적은 에너지를 사용하여 일단 문제는 풀리게 만들 수 있다는 것이다. 그리고 이러한 휴리스틱이 계속 축적된 경험과 피드백을 통해 어느 정도 신빙성을 갖게 되면 꽤 쓸만한 인지적 전략이 된다. 따라서 발견법의 가장 큰 장점은 경제적이라는 것이다.

물론 이러한 휴리스틱이 다소간의 손해를 가지고 오는 경우도 있다. 예를 들어, 뱀을 보면 '놀람'이라는 반응을 유도하고 인간으로 하여금 도망칠 것을 유도하는 휴리스틱은 보통 노끈 같은 것에도 반응하도록 진화되어 있다. 때문에 뱀을 탐색하는 정밀한 알고리즘은 아니며, 노끈을 보고 도망친 것으로 인해 신체 에너지를 약간 소모할 수 있다.[1] 그러나 이러한 습성으로 인해 생기는 약간의 에너지 소비는 정말 뱀이 나타났을 때 이를 알아채지 못하고 물려 독이 퍼져 죽는 것[2]에 비하면 아무 것도 아니기 때문에, 이러한 휴리스틱은 생존률을 높이는 데 도움을 준다. 오히려 길고 얇은 물체를 봤을때 그게 뱀인지 아닌지 일일히 확인하는 것이 더 비경제적이다.

학자들은 이러한 발견법적인 사고 구조가 빠르고 (시간에서 뿐 아니라 에너지적으로도)경제적일 뿐더러[3] 위의 뱀의 예에서와 같이 생존율을 크게 증대시킬수 있으므로, 야생에서 진화하는 과정에서 획득되었다고 생각한다.

3.2 실: 정확한 답을 보장할 수 없다

그러나 발견법이 가지는 가장 큰 문제는, 일단 문제 상황이 해소되도록 대강의 답은 만들 수는 있을지 몰라도 정확한 답(또는 문제의 성격에 따라서는 최적의 답)을 보장할 수 없다는 것에 있다. 알고리즘적 접근은 일단 시도를 할 수만 있다면 (그 과정에서 실수가 있지 않는 한) 100% 정답을 보장하는 반면, 휴리스틱은 일종의 '어림짐작', '인상'이기 때문에 그 정확성이 담보되지 않는다는 것이다.

또한 자신이 휴리스틱을 사용하여 내놓은 답에 대해 적절한 피드백이 제공되지 않을 경우, 휴리스틱의 잘못된 사용이 좋은 결과를 이끌어냈다고 오판하여 계속 그 전략을 지속할 수도 있다. 예를 들어 아래와 같은 경우는 학술적으로도 많이 연구된 바 있는 대표적인 휴리스틱 오용의 예이다.

  • 전문 주식투자자는 스스로가 주가변동을 잘 예측한다고 생각하지만, 실제로는 우연 수준에서 크게 벗어나지 않는다.
  • 의사들의 '경험에 의한 진단' 역시, 단순한 자료만 가지고 컴퓨터로 돌려서 나오는 것보다 나을 것 없는 예측치를 보인다.
  • 도망을 치는 등 빠르게 결정을 내려야 하는 상황에서, 갈림길이 주어졌다고 가정하자. 한쪽 길은 외국어 간판과 난생 처음 보는 양식의 건물들로 도배되어있고, 다른 한쪽은 모국어 간판과 모국풍의 건물로 도배되어있다(한국이 모국인 위키러들을 두고 설명하자면 떡볶이 집이나 짜장면집, 홈플러스, 아트박스 같은 것들이 보인다고 생각해보자). 이 상황에서 더 안전한 길을 택해야 한다고 할때 대부분의 인간은 모국어 간판이 있는 길을 택할 것이다. 그 길이 더 익숙한 풍경, 즉 '인지적으로 편안한' 길이기 때문이다. 그러나 실제로는 그 길이 모국의 길인지 외국의 길인지와 길이 안전한지는 전혀 관계가 없다. 다만 익숙할 뿐이다.

3.3 결론

발견법은 시간적, 인지적으로 경제적이어서 빠른 시간안에 적은 에너지를 들여 꽤 안전하고 근접한 결론을 도출해 낼 수 있다. 더불어 이러한 시간과 에너지의 절약은 인간의 생존율을 크게 향상시키는 데 기여했다. 하지만 발견법을 통하여 얻어진 결론은 정확한 결론과는 다소 거리가 있을 수 있으며, 이는 정확한 결론을 위해 논리적 사고가 필요한 과정, 즉 어려운 문제에 발견법적 사고를 도입했을 때 그 차이가 더 두드러진다.

이렇듯 발견법적 사고 방식에는 장단점이 있다. 인간은 발견법적 사고에 익숙하기 때문에 발견법적 사고의 장점을 누리는 한편, 그 단점에도 노출되어 왔다. 주로 학문적인 방면에서 그러한데, 특히 모든 학문에 있어서 기초가 되기 마련인 철학, 더 정확하게는 논리학을 '발견법적 사고를 논리적 사고로 대체하는 과정' 이라고 해도 큰 무리가 없을 것이다.
반면 컴퓨터를 개발하는 데 있어서는 발견법적 사고방식을 컴퓨터에 도입하는것이 주요 과제중 하나이다. 인간은 너무 익숙하고 쉽게 해내는 일이더라도 컴퓨터의 논리적 사고로는 쉽게 해내기 어려워지는 경우가 많다. 앞서 '득: 일단 문제는 풀린다' 에 언급된 사례가 그 쉬운 예 들이다. 발견법적인 방식을 컴퓨터의 논리 회로에 적용시키기 위한 연구가 다각적으로 진행되고 있는 상황.

4 휴리스틱에 대한 인지심리학의 접근

휴리스틱에 대해, 인지심리학 내에서는 휴리스틱이 인간의 '비합리성'을 대표하는 사고방식으로 보는 접근과, 반대로 휴리스틱이 그 나름대로 합리성을 갖고 있다고 보는 접근이 나뉜다. 전자의 대표가 행동경제학의 창시자로도 유명한 에이모스 트버스키(Amos Tversky)와 대니얼 카너먼(Daniel Kahneman)이라면, 후자의 대표에는 게르트 기거렌처(Gerd Gigerenzer)와 게리 클라인(Gary Klein) 등이 있다.

트버스키와 카네만 등은 확률과 관련된 판단이 많은 부분 휴리스틱에 의존하고 있음을 보였으며, 이로부터 더 나아가 상황을 정의하는 방식에 따라 문제 해결을 위해 사용되는 전략이 달라진다는 '틀 효과(framing effect)'을 주장하기도 했다. 이들의 관점으로부터 행동경제학이 시작되게 되는데, 즉 합리적 행위자로서의 개인은 없으며, 대부분 휴리스틱으로 의사결정을 하는 본능적 인간만이 있을 뿐이라는 것. 아래는 이 둘의 관점을 대표하는 휴리스틱 실패의 예.

린다는 서른한 살의 미혼 여성이다. 직설적인 화법을 구사하고 매우 똑똑하다. 철학을 전공했다. 학생 때는 차별과 사회 정의 문제에 매우 관심이 많았고 반핵 데모에도 참가했다. 린다는 다음 중 무엇일 확률이 더 높을까?

1. 은행 직원
2. 페미니스트인 은행 직원

이 문제에 대해 많은 사람들은 2번을 답으로 고르는데, 이는 특정 대상을 대표한다고 여겨지는 정보를 토대로 추론하는 '대표성 휴리스틱' 때문이다. 그러나 논리적으로는 린다가 무슨 사람이든간에 '은행원'(1번)일 확률이 '페미니스트이면서 은행원'(2번)일 확률보다 더 크다. 2번의 경우가 1번의 경우의 부분집합에 해당하기 때문이다. 그러나 린다가 '철학을 전공'하고, '차별과 사회 정의 문제'에 관심이 많았다는 정보로부터 그녀가 '페미니스트'일 확률이 높다고 판단하게 되는 것이다.

한편 기거렌처나 클라인 등은 실제적 상황에서는 휴리스틱들이 상황을 정확하게 파악하는 데 도움을 주며, 그런 직관을 기반으로 내린 판단이 실제로 옳은 결정을 이끌어내는 데 많은 도움을 준다고 주장한다. 이런 과정에서 알고리즘적인 접근을 억지로 시도하려고 하면 개인들이 가지고 있는 직관이 방해를 받아 옳은 답을 내는 데에 오히려 방해가 된다는 것. 이러한 결과를 기거렌처나 클라인은 위험 판단 연구들을 통해 입증해 왔다.

이 두 분파의 접근은 연구 대상도 주로 대학생과 전문가층으로 달랐고, 그들이 연구했던 문제 또는 의사결정 상황의 특징 역시 다르며, 연구 방법론 역시 차이가 있었으므로, 어느 쪽이 일방적으로 옳고 그르다고 결론지을 수는 없다.

결론적으로, 대부분의 경우 인간은 알고리즘적 추론보다는 휴리스틱에 의존하는 것이 사실이다. 또한 인간은 휴리스틱을 많이 사용하지만 이것이 어떤 상황에서는 판단이나 문제 해결을 오류로 이끌기도 한다.

  1. 이를 통계학적으로는 '1종 오류'라고도 하는데, 실제로는 음성인 것에 대해서 '양성'이라는 판단을 내리는 것을 의미한다.
  2. 이를 '2종 오류'라고 하며, 실제로는 양성인 것에 대해서 '음성'이라는 판단을 내리는 것을 의미한다.
  3. 앞서 "인지적 자원" 꼭지에서도 설명했듯 뇌 활동은 많은 칼로리를 소모한다. 인간이 발견법적 사고를 하지 못하고 컴퓨터처럼 생각했다면 생존율이 떨어져서는 물론, 힘이 딸려서도 멸종해 버렸을 것이다.