제2차 세계대전이 끝난 후 미국 국방성은 미합중국의 공적 전투와 안보를 위한 과학적 연구를 수행하기 위하여 법인 ‘랜드(RAND Corporation)’를 설립했다. 랜드에서 수행한 대부분의 연구는 군사적 용도로 사용되었다. 그러나 랜드는 OR(Operations Research)과 응용수학 연구의 중심지이기도 했다. 랜드는 또한 게임이론의 산실이기도 했다. 랜드에 소속되어 있으며 게임이론의 발전에 지대한 공헌을 한 학자로 폰 노이만(Johann Ludwig von Neumann)과 모르겐슈테른(Oskar Morgenstern), 내쉬(John Nash), 플러드(Merrill Flood), 드레셔(Melvin Dresher) 등을 들 수 있다. 랜드의 고문이자 프린스턴대학교의 수학교수인 터커(Albert Tucker)는 1950년 스탠퍼드대학교 심리학자들로부터 게임이론에 대한 강연을 요청받았다. 터커 교수는 게임이론에 생소한 심리학자들의 이해를 돕기 위하여 플러드와 드레셔가 공동으로 행한 실험 게임에 바탕을 두고 ‘죄수의 딜레마(prisoner's dilemma)’라는 사례를 만들었다.
 
실험으로 행한 게임에 붙인 이름 ‘죄수의 딜레마’
 
두 명의 혐의자(A와 B)가 폭행 현장에서 경찰에 체포되었다. 경찰은 이들이 저지른 폭행에 대해서는 확실한 증거를 확보하고 있으므로 이들에게 1년의 징역형에 처할 수 있다. 그러나 경찰은 이들이 폭행과정에서 조직폭력배를 동원하고, 흉기를 사용한 범죄에 대해서는 혐의를 두고 있으나 이를 입증할 수 있는 증거를 확보하지 못하고 있다. 이러한 혐의를 자백받기 위하여 경찰은 이들 두 명의 혐의자들을 서로 분리해 각각 다른 방에서 심문하기로 했다. 혐의자들은 서로 분리되어 있으므로 의견을 나누거나 서로의 진술을 맞출 수 없다.
 
 경찰은 혐의자들에게 자백을 종용하며 다음과 같은 유인책을 제시한다. 만약 한 사람이 조직폭력배 동원 및 흉기 사용 등의 혐의에 대해서 자백하고 다른 사람이 부인하면 자백한 사람은 폭행에 대해서도 불기소하고 즉시 석방하는 반면에 혐의를 부인한 사람에게는 9년형이 부과된다. 만약 두 사람 모두 자백하면  두 사람은 각각 5년형이다. 물론 두 혐의자 모두가 조직폭력배 동원과 흉기사용을 부인하면 이들은 각각 1년형에 처해진다. 이러한 상황에서 각 혐의자들이 취할 수 있는 선택은 무엇일까? 여기서 게임 상황이 발생하는 것이다.

 위의 상황을 게임이론으로 정리한다면 다음과 같다. 게임의 경기자는 두 명의 혐의자 A와 B이다. 취할 수 있는 경기자들의 전략은 혐의를 부인(상호 협조)하거나 자백(상호 배신)하는 것이다. 보수행렬은 아래 [표 1]과 같다.
 
혐의가 있는 두 죄수에게 서로 논의할 수 없는 상황을 주고 혐의 부인과 자백이라는 두 선택을 준다면 두 죄수는 어떤 결정을 내리게 될까?<출처: NGD>
 

보수행렬 괄호의 앞 숫자는 A가 받는 보수(징역형)이고, 뒤의 숫자는 B가 받는 보수이다. 각 보수를 (-)로 표시한 것은 징역형(비효용 또는 고통)이기 때문이다. 예를 들어 범인 A가 자백하고 B는 부인하면 A는 석방되고 B는 9년(-9)이 부과된다.
 
[표 1] 죄수의 딜레마 보수행렬.


 
 
이러한 상황에서 각 혐의자들은 고민을 하게 될 것이다. 각 혐의자들에게 가장 유리한 선택은 무엇일까? 혐의자 A의 입장에서 생각해 보자. 만약 혐의자 B가 혐의를 부인하는 경우에 A가 부인하면 1년형이고 자백하면 석방된다. 즉 B가 부인하는 경우에 A에게 유리한 전략은 자백이다. 이제 반대의 경우를 생각해 보자. 혐의자 B가 혐의를 자백하는 경우에 A는 부인하면 9년형이고 자백하면 5년형이다. 즉 B가 자백하는 경우에 A에게 유리한 전략은 자백이다. 따라서 A의 입장에서 보면 B가 부인하던 자백하던 간에 자신에게 유리한 전략은 자백하는 것이다. 이와 같이 상대방의 선택이 무엇이든 간에 본인에게 유리하도록 선택하는 전략을 게임이론에서는 우월한 전략(dominant strategy)이라고 한다. 이제 혐의자 B의 입장에서 살펴보자. B 역시 어떠한 선택이 자신에게 가장 유리할지를 궁리할 것이다. B가 선택할 수 있는 우월한 전략은 A와 마찬가지로 자백이다.

 

내쉬균형은 최선의 결과일까?
 
내쉬의 균형이론은 게임에 참가하는 경기자들은 상대방이 선택할 전략을 예측할 수 있으며, 이와 같이 주어진 상황 하에서 경기자들은 자신에게 유리한 최선의 대응전략을 선택한다고 전제하고 있다. 내쉬는 어떻게 자신의 선택이 상대방의 의사결정에 영향을 미치고, 동시에 자신도 상대방의 전략에 어떻게 영향을 받는지를 감안해 게임 경기자가 내리는 최종 결정 과정을 이론적으로 설명했다. 이러한 과정을 통해 게임 경기자들 모두가 상대방이 내린 선택 하에서 자신의 선택이 최선의 결과라는 결론에 이르면 이를 내쉬균형에 도달했다고 한다.

 
앞의 예에서 A와 B 모두가 자신에게 가장 유리한 방향으로 선택한 자백의 결과는 각자 5년형으로 내쉬균형에 해당된다. 문제는 이들 혐의자들이 모두 혐의를 끝까지 부인했다면 두 사람 모두 1년형으로 형량을 줄일 수 있었다. 그런데 자신의 이익을 추구하다 보니 각자 5년형의 최악의 상태에 빠진 것이다. 이 때 두 사람이 받은 형의 합으로 살펴보면 내쉬균형의 결과는 10년 수감이다. 둘이 모두 부인했으면 형의 합은 2년이고 설령 한 사람은 부인하고 한 사람은 자백한 경우에도 형의 합은 9년이다. 내쉬균형의 결과는 최악의 상태인 것이다. 그래서 이 상황은 딜레마이다.

게임상황에서의 내쉬균형 결과 게임참가자 모두에게 최선이 아닌 최악의 결과를 가져오는 딜레마가 발생할 수 있다. <출처: NGD>
 

내쉬 균형의 결과가 최악의 상태로 귀결된 것은 혐의자 각자가 자신의 이익을 위해 행동했기 때문이다. 즉 개인의 이익추구가 혐의자 전체의 이익으로 귀결되지 못한 것이다. 내쉬는 각자가 자신에게 최대의 이익을 주는 선택을 위해 최선의 노력을 다하면 결국 집단 전체로는 최선의 선택에 이룰 수 없음을 설명한 것이다. ‘보이지 않는 손’에 의해 시장경제체제가 경제의 효율성을 제고한다는 애덤 스미스(Adam Smith)의 이론은 내쉬의 세계에서는 더 이상 유효하지 않다. 즉 애덤 스미스는 각 개인이 최선을 다하면 궁극적으로 구성원 모두가 좋아진다고 했으나 내쉬는 이를 부정한 것이다. 약관 21살의 대학원생 내쉬가 발표한 균형이론은 후에 경제학자들에 의해 게임이론으로 발전하여 경제학 자체를 탈바꿈 시켰다. 그는 기존의 연구를 전혀 참고하지 않고 자신만의 아이디어와 방법을 이용해 독창적으로 새로운 결론을 도출했다.
 

그러나 때로는 이해 당사자의 담합이 끝까지 유지되는 것이 당사자 전체로 유리한 결과를 가져올 수도 있다. 예를 들어 남한과 북한 사이의 군사비 경쟁의 경우를 상상해 보자. 남·북한 가운데 한 나라만이 군사비를 증강하고 다른 한 나라를 증강하지 않으면 군사비를 증강한 나라는 전략적으로 유리해진 반면에 증강하지 않은 나라는 불리해진다. 이에 따라 남·북한  모두 군사비를 증강할 것이고, 그 결과 남·북한 모두 군사비에 돈만 낭비하고 전략적으로 어느 나라도 유리해진 것이 없다. 오히려 남·북한이 군사비를 증강하지 않고 종전의 상태를 그대로 유지하도록 담합을 계속하는 것이 남·북한 전체적으로 유리한 결과가 된다.

참고문헌 : 김철환, [즐거운 경제학], (글을읽다, 2008); 최정규, [이타적 인간의 출현] (뿌리와 이파리, 2009); John Cassidy, [How Markets Fail], (FSG, 2009); Mankiew, N. G., [Principles of Economics], 5th ed., (South-Western, 2009).

이미지를 클릭하면 다음이미지가 보여집니다.

3 /