진화적으로 안정된 전략

Evolutionarily Stable Strategy; ESS
어떤 문제에 대해 생물이 대응하는 방법을 진화론적으로 분석할 때 없어서는 안 되는 중요한 개념.

처음 이 개념을 구체화하고 중요성을 인식시킨 것은 조지 프라이스(George R. Price)와 존 메이너드 스미스(John Maynard Smith)의 1973년 네이처(Nature) 논문[1]이다. [2] 이 논문에서는 아래처럼 정의하고 있다.

Roughly, an ESS is a strategy such that, if most of the members of a population adopt it, there is no "mutant" strategy that would give higher reproductive fitness.

대략, ESS는, 만약 해당 개체군의 거의 모든 개체가 채택할 경우에 더 높은 번식 적합도를 주는 돌연변이 전략이 없는 것이다.

말이 좀 어렵다. 이 이론의 핵심적인 특징은 어떤 개체의 생존전략이 최상이냐 아니냐가 다른 개체들이 어떤 전략을 쓰느냐에 따라 달라진다는 것에 주목한다는 것이다.
아래 자세하게 나오는 매파와 비둘기파의 예에서 매파와 비둘기파 중 어느쪽이 더 생존에 도움이 되는 전략인지는 주변에 매파와 비둘기파가 얼마나 많으냐에 따라 달라진다. 주변이 매파 천지라면 비둘기파가 유리하고 주변에 비둘기파만 있으면 매파가 유리하다. 그렇기 때문에 100% 매파, 100% 비둘기파 전략은 둘 다 진화적으로 안정된 전략이 아니다. 예를 들어 매파만 있는 상태라면 비둘기파 돌연변이가 나타나 이득을 얻으면서 수를 늘려갈 것이고 반대의 경우도 마찬가지일 것이기 때문이다. 그렇기 때문에 진화적으로 안정된 전략은 매파와 비둘기파의 전략이 적절한 비율로 혼재된 전략이다. 모든 개체들이 이 전략을 쓰는 상황에서는 돌연변이로 다른 전략을 들고 나오는 개체가 있더라도 그 개체는 이득을 취하지 못하고 도태되기 때문에 진화적으로 안정된 상태가 된다. (엄밀하게 말하면 Evolutionarily Stable Strategy와 Evolutionarily Stable State 사이의 차이가 있다. 전자는 한 집단의 전체 개체가 같은 전략을 쓴다는 것을 가정하지만, 후자는 서로 다른 전략을 쓰는 개체들이 일정비율로 뒤섞이는 경우도 포함한다.)

비둘기파 전략과 매파 전략의 예를 더 상세히 기술하면 다음과 같다.[3] 전자는 동료 개체를 만났을 때 싸움을 회피하는 전략이고, 후자는 적극적으로 싸우는 전략이다. [4]

  • 비둘기는 싸움을 회피하기 때문에 매를 만나든 비둘기를 만나든 이득도 적고 손해도 적다.
  • 매는 비둘기를 만날 때는 큰 이득을 보지만 매를 만나면 크게 싸움이 붙는데, 지면 손해가 매우 크고 이겨도 별로 득이 없거나 다소 손해다.
  • 비둘기 전략만 쓰는 개체들로 구성된 집단에서 돌연변이로 매 전략을 쓰는 개체가 나타나면 그 돌연변이는 이득을 얻는다. 왜냐하면 매는 비둘기를 만날 경우 이득을 얻는데 주변에 비둘기만 있기 때문이다.
  • 하지만 그 이득으로 인해 매 전략을 쓰는 개체들의 수가 늘어나기 시작하면 이득이 작아지기 시작한다. 매들이 서로 싸우는 동안 비둘기들이 싸움을 회피하며 상대적인 이득을 얻기가 쉬워지기 때문이다.
  • 반대로 처음에 매 전략만 쓰는 개체들로 구성된 집단에 비둘기 전략을 쓰는 개체가 나타난다면 피터지게 싸우는 매들 속에서 비둘기는 이득을 얻고 수를 늘려나간다.
  • 그렇기 때문에 매 전략만 쓰거나 비둘기 전략만 쓰는 건 답이 아니다. 두 전략을 섞어 쓰는 개체가 유리하고 결국 이들이 승리하여 진화적으로 안정된 상태에 도달할 것이다. (온화하지만 가끔 화를 내는, 또는 나쁜 남자이지만 가끔 착해지는) 이러한 상태에 도달하게 만들 수 있는 전략이 ESS이다.
  • 구체적으로 비둘기와 매의 전략을 얼마의 비율로 섞어써야 하는지는 전제되는 변수에 따라 달라질 것이다. 매처럼 행동할 때의 위험보다 이익이 크면(즉 영역이나 암컷을 차지하는 등의 '판돈'이 크면) 매처럼 행동하는 비율이 올라가기 마련이다.
  • 집단의 대부분 개체가 ESS 전략에 따라 행동하고 있을 때, ESS와 벗어난 전략을 사용하는 개체는 상대적으로 손해를 보기 때문에 수를 늘려나가지 못하고 도태된다. 바로 이것이 위 논문에서 정의한 ESS의 의미이다.

이 집단에서는 비둘기와 매라는 두 가지 전략이 ESS에서 평형을 이루고 공존하는데, 이 현상을 평형 다형(polymorphic equilibrium)이라 한다.

위의 설명이 군살이 많은데, ESS는 '한 전략이 다른 전략의 침투에 안정적인 전략'으로 요약할 수 있다.
이는 게임이론에서 말하는 '혼합전략 균형'과 같은 개념이다. 매파와 비둘기파의 혼합전략 균형은 미분방정식을 활용하면 더 잘 이해할 수 있는데, 이때 균형은 3개가 존재하며, 2가지 균형은 각각 매들로만 구성된 균형, 비둘기로만 구성된 균형, ESS인 균형 이 3가지다. 미분방정식의 안정적 해 분석 방법의 하나를 활용하면 ESS를 제외한 두 점에서의 도함수는 양의 값을 갖으므로 안정적이지 않고, ESS에서의 도함수는 음의 값을 가지게 되어 양 측의 두 불안정한 균형점에서 ESS로 수렴하는 것을 볼 수 있다.

위의 설명을 읽어보면 게임이론에서 이론을 풀어나가는 방식과 유사함을 볼 수 있을 것이다. ESS는 바로 게임 이론의 내쉬 균형의 진화론적 측면의 한 형태 정도로 볼 수 있다.(모든 ESS는 내쉬균형이지만 역은 성립하지 않는다.) 이 ESS 개념을 적용할 수 있는 대표적인 사례로는 다음과 같은 예들이 있다.

  1. 성비(sex ratio)

일시적으로 수컷:암컷의 비율이 1:2인 어떤 종이 있다고 가정하자. 이때 수컷은 암컷에 비해 상대적으로 짝을 찾기가 쉬우므로, 짝짓기를 해서 성공적으로 자신의 유전자를 남길 가능성이 암컷에 비해 비약적으로 늘어난다. 이러한 상태에서는 암, 수 불문하고 수컷을 낳을 확률이 높은 유전자를 가진 개체의 유전자가 다음 세대로 이어질 가능성이 더 높기 때문에, 자연적으로 시간이 지날수록 수컷의 비율이 늘어난다. 반대의 경우도 마찬가지. 때문에 어떤 특이한 외부적 요인이 없는 상황에서, 균형적인 성비는 1:1에 수렴한다.

2. 부모의 양육(parental investment to offsprings)
3. 성격(personality or characters)
4. 신호 이론(signalling theory)
한 마디로 한 문제에 대해 여러 개체들이 상호작용할 때[5] 가능한 여러 전략을 비교한다고 볼 수 있다.
  1. "The logic of animal conflict". Nature 246 (5427): 15–18.
  2. 리처드 도킨스이기적 유전자에서 비중있게 설명되고 있기도 하다.
  3. 원 논문에는 전략이 다섯 개 등장하지만, 여기서는 알기 쉽게 비둘기(dove)와 (hawk)만으로 설명함
  4. 싸움의 이유는 짝짓기나 먹잇감을 위한 세력권 다툼 등
  5. 반드시 같은 종 내부일 필요는 없다. 신호 이론의 경우 피식자와 포식자 사이에서도 적용 가능하다.