‘왼뺨마저 내밀면’ 누가 피해 볼까 [김범준의 세상물정]

로버트 액설로드의 ‘협력의 진화’

범죄를 함께 저지른 공범 A와 B가 있다. 만나서 의논하지 못하도록 둘을 떨어뜨려 놓고 아래의 얘기를 각자에게 들려주자. “만약 공범이 함께 범죄를 저질렀다고 자백했는데 끝까지 그런 일 없었다고 혼자 우기면 당신은 10년 동안 감옥에 갇히게 될 겁니다. 그런데 당신도 자백하면 둘 다 5년 형을 받게 될 거예요. 만약 공범이 끝까지 자백하지 않는데 당신이 자백하면 당신은 풀려나서 당장 집에 갈 수 있어요. 하지만 당신과 공범이 둘 다 끝까지 범죄 사실을 부인하면 둘 다 1년 형을 받게 될 겁니다.” 만약 내가 A라면 어떤 선택을 해야 할까? 먼저 B가 자백하는 상황을 상상해 보자. 이미 공범이 자백했는데 그런 일 없었다고 나만 우기면 10년 동안 감옥에 갇히게 된다. 한편, 나도 자백하면 5년 동안 감옥에 가게 된다. 그렇다면 B가 자백하는 상황에서는 자백하는 것이 내게 이득이다. 10년보다는 5년 감옥에 있는 것이 더 나으니 말이다. 만약 B가 자백하지 않는다면 어떨까? 이 경우에도 내가 자백하는 것이 유리하다. 공범을 배반하고 나 혼자 자백하면 당장에라도 집에 가는데, 자백하지 않고 버티면 1년 감옥에 갇히게 된다. 결국 나(A)는 상대가 자백하든 말든 자백하는 것이 유리하다. 그런데 나만 이렇게 생각하는 것이 아니다. 내 공범 B도 나만큼은 똑똑하니 공범도 자백을 선택하게 된다. 결국 나와 공범, 둘 다 자백하고 둘 다 5년 형을 받게 된다. 그런데 생각해 보니 참 아쉽다. 만약 나와 B가 입을 꾹 닫고 끝까지 범죄를 부인했더라면 둘 다 딱 1년만 감옥에 갈 수 있었는데 5년이라니.

둘이 협력하면 더 이익이 되는 데 서로 배반해서 손해가 되는 선택을 하게 되는 바로 이 상황을 일컫는 것이 ‘죄수의 딜레마’다. 각자 자신의 이익을 최대로 하는 나름 똑똑한 선택을 한 것 같은데 결국은 둘 모두에게 손해가 되니 일종의 딜레마의 상황이다. 오늘 소개할 정치학자 로버트 액설로드의 책 <협력의 진화>는 바로 이 죄수의 딜레마에 대한 저자의 연구를 담고 있다. 스타크래프트와 같은 온라인 컴퓨터 게임도 당연히 게임이다. 하지만 게임이론에서는 내가 얻게 되는 이익이나 손해가 상대의 선택에 따라 달라지는 일반적인 상황을 게임으로 폭넓게 정의한다. 바둑도 게임, 가위바위보도 게임이고, 상대가 어떤 선택을 하는지에 따라 내가 감옥에 갇히는 기간이 달라지니 위에서 소개한 죄수의 딜레마 상황도 당연히 게임이다. 하지만, 죄수의 딜레마 게임이 바둑과 다른 면이 있다. 바둑은 상대가 이기면 내가 지고 내가 이기면 상대가 진다. 상대의 손해가 있어야 내가 이익을 거둘 수 있다. 한 사람이 이기려면 다른 이가 져야 하는 이런 유형의 게임을 제로섬 게임이라고 부른다. 이익은 플러스(+), 손해는 마이너스(-)로 해서 나와 너의 이익과 손해를 모두 더하면 영이 된다. 죄수의 딜레마는 다르다. 내가 이익을 보기 위해 굳이 당신이 손해를 볼 필요가 없다. 둘 모두 손해를 볼 수도, 이익을 볼 수도 있는 죄수의 딜레마는 대표적인 비제로섬 게임이다.

영어 표현 Prisoner’s Dilemma의 두 단어 앞 글자를 따서 죄수의 딜레마 게임을 보통 PD 게임이라고 줄여 부른다. 위에서 소개한 가상의 상황에서 범죄를 자백하는 것은 공범을 배반(Defection)하는 것이고, 입을 다물고 자백하지 않는 것은 공범과 협력(Cooperation)하는 것에 해당한다. 이 두 선택을 PD 게임에서는 각각의 첫 글자를 이용해 D와 C로 줄여 표기한다. PD 게임의 협력은 자백을 권유하는 경찰의 조사에 범죄자가 협력한다는 뜻이 아니라는 것을 기억하기를. 배반과 협력은 두 공범 사이에 대한 얘기다. PD 게임의 두 참여자 A와 B의 선택을 순서대로 적으면 CC, CD, DC, DD의 네 가지 경우로 간단하게 표기할 수 있다. 예를 들어 넷 중 세 번째 DC는 A는 배반(D), B는 협력(C)을 선택했다는 뜻이다. 네 가지 가능한 경우에 대해 A와 B가 얻는 점수를 생각해 보자. CC의 상황에서는 둘은 서로 협력해서 ‘상호 협력에 대한 보상(Reward)’ 점수 R을 얻는다. 한편, CD라면 B는 ‘배반의 유혹(Temptation)’ 점수 T, A는 ‘머저리의 빈손(Sucker’s payoff)’ 점수 S를 얻는다. 공범의 뒤통수를 치고 자기만 벗어날 때 얻는 점수를 딱 적절하게 ‘배반의 유혹’이라 부르는 것도 재밌고, 믿었던 공범에게 뒤통수를 맞아 혼자서 독박으로 죄를 뒤집어쓴 상황에서 얻는 점수의 번역어 ‘머저리의 빈손’도 재밌다. ‘호구의 독박’으로 부를 수도 있겠다. DC는 CD와 정확히 역할이 반대인 상황이어서 A는 T, B는 S의 점수를 얻는다. 넷 중 마지막인 DD라면 둘은 ‘상호 배반에 대한 처벌(Punishment)’ 점수 P를 받는다.

앞에서 소개한 두 공범 사이의 PD 게임에서는 형기가 길수록 낮은 점수에 해당한다. 복역 기간에 마이너스(-) 부호를 붙여서 R=-1, T=0, S=-10, P=-5로 적을 수 있다. 상대의 선택이 D일 때 내가 C를 선택하면 S=-10, D를 선택하면 P=–5가 내 점수다. 부등식 P>S를 만족하니 상대의 D에는 나도 D를 선택하는 것이 합리적이다. 한편, 상대가 C를 선택하는 경우, 내가 C를 선택하면 R=-1, D를 선택하면 T=0의 점수를 얻게 된다. T>R이므로 상대가 C일 때도 나는 D를 선택하는 것이 합리적이라는 것을 다시 확인할 수 있다. 결국 PD 게임의 딜레마의 상황은 T>R, P>S의 조건을 만족할 때 발생하는데, 둘이 함께 협력하면 둘이 서로 배반하는 것보다 이익이라는 것이 이 게임의 당연한 가정이니 R>P도 함께 만족해야 한다. 결국, T>R>P>S의 조건이 PD 게임에 필요하게 된다. 게다가 둘이 함께 협력해서 얻게 되는 이익의 총합 2·R은 한 사람은 배반하고 다른 사람은 협력할 때의 총합보다 커야 한다는 조건도 만족해야 하니 2·R>T+S의 조건도 필요하게 된다. 앞에서 소개한 두 공범의 PD 게임의 점수(T=0, R=-1, P=-5, S=-10)는 두 부등식 T>R>P>S, 2·R>T+S를 모두 만족한다. PD 게임을 다루는 학술서와 대부분의 연구 논문에서는 보통 모든 점수를 0 이상의 숫자로 적는 것이 대세다. 이 책에서 저자가 고른 점수는 T=5, R=3, P=1, S=0이다. 죄수의 딜레마 게임이 말 그대로 딜레마가 되기 위해 필요한 두 부등식을 모두 만족한다.

위에서 설명한 것처럼 두 사람이 딱 한 번 PD 게임을 하면 둘 다 배반하는 것이 논리적인 귀결이다. 하지만 둘의 PD 게임이 한번이 아니라 연이어 반복되면 배반을 계속하는 것은 그리 현명한 선택이 아니다. 이 책의 저자 액설로드는 PD 게임이 여러 번 반복해 이어지는 상황에서 어떤 전략이 장기적으로 가장 이익이 되는지 알아보기 위한 컴퓨터 프로그램 경진 대회를 2회에 걸쳐 개최했다. 대회 참가자는 반복되는 PD 게임으로 얻는 총점을 최대로 하는 나름의 전략을 고안하고는 이를 컴퓨터 프로그램으로 작성해서 액설로드에게 보냈다. 제 1회 대회에는 모두 14종, 2회 대회에는 모두 62종의 컴퓨터 프로그램이 제출되었다. 액설로드는 제출된 여러 컴퓨터 프로그램을 둘씩 짝지어 컴퓨터상에서 PD 게임을 반복하게 했다.

1회 대회에서 가장 높은 총점을 거두어 우승한 전략은 딱 네 줄의 짧은 프로그램 코드로 작성된 팃포탯(Tit for tat, TFT) 전략이었다. 게임의 첫판에서는 C를 선택하고 다음 판부터는 상대가 바로 앞판에서 한 선택을 그냥 그대로 반복하는 전략이 바로 팃포탯, 줄여서 TFT로 표기하는 전략이다. 상대가 n번째 판에서 C를 선택하면 n+1번째 판에서 TFT는 C를 선택한다. 마찬가지로 상대가 n번째 판에서 D를 선택하면 n+1번째 판에서 TFT는 D를 선택한다. C에는 C, D에는 D를 그대로 돌려주어서 ‘눈에는 눈, 이에는 이’에 해당하는 간단한 전략이다. TFT의 이런 특성을 일컫는 개념이 바로 호혜성(reciprocity)이다. 1회 대회의 우승 전략이 TFT라는 것이 모두에게 공개된 상황에서 개최된 2회 대회에서도 TFT는 또다시 우승한다. 내로라하는 여러 학자가 제출한 다른 많은 전략을 이기고 TFT가 두 번의 대회에서 연거푸 우승한 원인은 무엇일까? <협력의 기원>에서 저자 액설로드는 TFT의 성공 요인으로 아래 네 가지의 독특한 특성을 꼽는다.

첫째, TFT는 신사적이다. 상대가 배반하지 않는 한 먼저 배반하지 않는다. 흥미롭게도 두 번의 대회 모두, 상위의 성적을 거둔 전략 대부분이 신사적인 전략이었다. 내가 먼저 배반하면 상대는 다음에 배반을 선택하고 상대의 배반에 나는 또다시 배반을 선택할 수 있다. 이처럼 주거니 받거니 하며 배반을 반복하는 ‘배반의 메아리’가 길게 이어지면 상대뿐 아니라 내 점수도 보잘것없어진다. 배반의 유혹을 이기지 못하고 먼저 배반하면 상호 배반이 길게 이어져 내게도 손해가 된다는 얘기다. 어쩌다 한번은 상대를 등쳐먹어 큰 이익을 볼 수 있지만 계속 등쳐먹을 수는 없다. 먼저 배반하지 않는 TFT와 같은 신사적인 전략이 성공하는 이유다.

둘째, TFT는 보복적이다. 상대의 배반을 즉각적인 배반으로 응징한다. 상대의 딱 한 번의 D에는 맘씨 좋게 C로 답하고 상대가 한 번 더 D를 하면 그때야 응징을 시작하는 TFT보다 더 착한 전략이 있다. 2회 대회에서 중위권인 24위의 성적을 거둔 ‘Tit for two tats(TF2T)’ 전략이다. CD를 계속 반복해 이어가는 전략을 TF2T가 상대할 때 어떤 일이 생길지 생각해 보자. CDCDCD...를 계속 이어가면서 두 번 연이어 D를 선택하지는 않으니, TF2T는 매번 상대의 D에 C로 반응하면서 두 번에 한 번꼴로 ‘머저리의 빈손(호구의 독박)’의 낮은 점수를 받는다. TF2T처럼 상대의 배반을 모른척하고 곧바로 보복하지 않는 전략은 다른 교묘한 전략에 쉽게 이용당할 수 있다. 배반을 즉각적으로 보복하는 TFT는 다르다. 교묘한 얌체 전략에 쉽게 이용당하지 않는다.

셋째, TFT는 관대하다. 배반했던 상대가 다시 협력으로 돌아서면 과거를 모두 잊고 용서해 다시 협력한다. 쉽게 용서하는 TFT와 극단적으로 대비되는 전략이 <협력의 진화>에서 저자가 ‘골목대장’ 전략이라고 부르는 ‘냉혹한 방아쇠(Grim Trigger)’ 전략이다. 상대가 배반하지 않는 한 자신이 먼저 배반하지 않는 것은 TFT와 같지만, 상대가 딱 한 번이라도 배반하면 결코 용서치 않고 끝없는 배반으로 상대를 영원히 응징하는 전략이다. 상대의 딱 한 번 실수도 결코 용납하지 않는 골목대장 전략은 배반의 메아리에 쉽게 빠지게 될 것을 쉽게 예상할 수 있다. TFT는 다르다. 상대가 자신의 D를 뉘우치고 다시 C로 돌아서면, 과거를 잊고 관대하게 용서해 상대와의 연이은 협력을 쉽게 복구해 내는 것이 TFT의 강점이다. TFT는 배반의 메아리가 길게 이어지는 것을 관대한 용서로 막아낸다. 오래전 과거의 잘못은 잊어주고 최근에 상대가 어떻게 행동했는지만을 생각하는 TFT의 관대함이 상대뿐 아니라 자신에게도 도움이 된다는 결론이 무척 흥미롭다.

넷째, TFT는 단순하다. 자신이 어떻게 선택하는지 투명하고 명료하게 스스로를 상대에게 드러낸다. 몇 번의 게임이 이어지면 상대 전략은 TFT가 다음에 어떤 선택을 할지를 쉽게 예상할 수 있게 된다. 이 예측을 바탕으로 자기가 먼저 D를 선택하는 것이 결국 자신에게도 손해라는 것을 쉽게 깨닫게 된다. 만약 내가 너무나도 복잡한 전략을 상대하는 상황에서는 어떤 일이 생길까? 도대체 상대가 어떻게 C와 D를 선택하는지 종잡을 수 없는 나는 다음 판에서 나의 C에 상대가 C를 선택할지를 확신할 수 없고, 결국 상대와 장기적인 협력관계를 이어가는 것이 어려워진다. 보통 우리는 내 마음속 전략을 투명하게 드러내면 상대가 나를 이용할 수 있어서 결국 내가 손해라고 믿는다. 물론 제로섬 게임에서는 맞는 얘기다. 가위바위보 할 때 다음에 내가 주먹을 내겠다고 미리 솔직하게 알려주면 이길 수 없는 것처럼 말이다. 비제로섬 게임은 다르다. 내가 다음에 어떻게 할지 투명하게 상대애게 알려준다고 꼭 내가 손해를 보는 것이 아니다. 상대를 알고 나를 알면 백번 싸워 늘 이길 수 있을지는 모르지만, 내가 이기기 위해서 굳이 상대가 져야 하는 것은 아니다. 비제로섬 게임에서는 나를 투명하게 알려주어 둘이 함께 이익을 볼 수도 있다. TFT의 성공이 우리에게 들려주는 의미있는 조언이다.

협력 진화의 연대기라고 부를 수 있는 중요한 결과가 책에 소개되어 있다. 협력은 적대적인 환경에서도 배태될 수 있고, 온갖 전략이 뒤섞인 환경에서도 생존해 성장할 수 있으며, 일단 자리를 잡은 뒤에는 스스로를 방어할 수 있다는 것이 저자의 결론이다. 먼저, 누구와도 협력하지 않고 늘 배반만을 일삼는 전략인 AllD만으로 이루어진 커다란 집단을 생각해 보자. 이 집단에 어쩌다 들어온 딱 한 명의 TFT는 어떤 운명을 맞게 될까? 처음 만난 첫판에 다른 모든 AllD는 이 순진한 TFT를 상대로 높은 점수를 얻고 TFT는 형편없이 낮은 머저리의 빈손 점수를 얻어서 한 판을 버티지 못하고 빠르게 도태된다. 하지만 혼자가 아닌 TFT 여럿이 함께 무리를 지어 AllD의 세상에 들어오면 상황이 확연하게 달라진다. 이들 TFT는 AllD를 상대로는 처음에 낮은 점수를 받지만 자신과 같은 TFT로 이루어진 협력의 섬 내부에서는 높은 점수를 얻는다. 무리 지은 TFT는 AllD의 각박한 세상 안에서 자신들 내부의 협력을 통해 생존할 수 있게 된다. 저자가 적대적인 환경에서도 협력이 배태될 수 있다고 결론지은 근거가 바로 이 얘기다. 혼자서는 어렵지만 함께 하면 가능하다. 이렇게 교두보를 확보한 협력의 섬은 다른 여러 전략이 뒤섞인 환경에서도 생존해 성장할 수 있다. 특히 TFT가 가진 신사적이며, 보복적이고, 용서할 줄 아는 특성이 협력의 성장에 큰 도움이 된다. 신사적이지 않은 다른 전략은 보복해서 낮은 점수를 돌려주고, 자신들 내부에서는 협력을 통해 차곡차곡 점수를 쌓아간다. 다른 전략이 어쩌다 실수로 배반해도 곧바로 회개하면 용서해서 협력을 이어갈 수도 있다. TFT는 또한 다른 전략의 침범에 맞서 얼마든지 자신들을 방어할 수 있다는 것도 중요하다. 모두가 TFT인 상황에 AllD가 침입하는 상황을 떠올려보자. 딱 한 판의 게임 이후 AllD는 다른 모든 TFT로부터 연이어 항상 D를 돌려 받으며 낮은 총점을 얻게 된다. 한편 TFT 들은 자신들 사이에서 C를 계속 이어가서 높은 점수를 쌓게 된다. 자기와 같은 AllD를 상대로도 낮은 점수를 얻는 AllD는 TFT의 전체 집단에 혼자 침입하든 무리지어 침입하든 생존할 수 없다. 협력은 배반자들로 가득한 사회에서도 교두보를 확보해 성장할 수 있으며 일단 자리를 잡은 다음에는 배반자들의 공격으로부터 스스로를 방어할 수 있다. 배반은 다르다. 협력자로 가득한 사회에서 배반자들은 처음 자리 잡을 수조차 없어 빠르게 도태된다.

책의 뒷부분에서 저자는 협력을 늘리고자 하는 개혁가를 위한 조언을 들려준다. 저자는 먼저 미래의 그림자를 길게 늘여야 한다고 말한다. 예를 들어 PD 게임이 딱 10판 반복되는 상황이라면 두 참가자는 마지막 10번째 판에는 C를 선택할 아무런 동기가 없다. 내가 C를 했는데 상대가 D를 하면 마지막 판에 초라한 점수를 받게 되니 말이다. 결국 마지막인 10번째 판에서 둘 다 D를 선택한다. 10번째 판에서 둘이 모두 D를 선택할 것이 확실하니 이제 9번째 판이 실질적인 의미로는 마지막 판이 된다. 당연히 9번째 판에서도 둘은 D를 택하게 된다. 결국 10, 9, 8…로 배반의 확신이 시간을 거슬러 오르고, 첫 번째 판에서도 D를 선택하는 것이 합리적인 선택이 된다. 딱 몇 판 게임이 진행될지가 모두에게 알려지면 첫 번째 판부터 배반이 시작된다. 하지만 만약 전체 PD 게임이 무한 번 진행되거나 게임이 몇 판 진행되는지 정해져 있지 않은 상황이라면 둘 사이 협력이 싹틀 수 있다. 이 개념이 바로 책에서 저자가 강조하는 미래의 그림자다. 충분히 미래의 그림자가 길어야 PD 게임 상황에서 협력이 싹틀 수 있다. 미래의 그림자를 길게 하는 것은 둘 사이의 상호작용의 횟수나 빈도를 늘리는 것에 해당한다. 자주 만나고 오래 만나면 둘 사이의 협력이 출현할 가능성이 크다.

미래의 긴 그림자가 협력을 만들어내는 흥미로운 사례가 책에 소개되어 있다. 바로 제1차 세계 대전 당시 영국군과 독일군이 장기간 대치한 참호전 때 일이다. 적군이 공격할 때 아군은 참지 말고 공격하는 것이 이익이고, 적군이 공격하지 않을 때는 더더군다나 먼저 공격하는 것이 아군에게 이익이다. 그런데 적군도 생각이 같아서 양쪽 모두 공격을 선택하게 된다. 하지만 만약 적군과 아군이 공격하지 않는 것을 함께 선택하면 양쪽 모두 아무런 피해를 보지 않는다. 조금만 생각하면 바로 오늘의 주제인 PD 게임의 상황과 정확히 같다는 것을 알 수 있다. 당시의 참호전에서는 양쪽이 각각 참호를 파고 서로 장기간 대치하는 상황이 만들어졌다. 바로 반복적인 PD 게임의 상황이 구현된 셈이다. 이때 양쪽 군대는 공존공영(Live-and-Let-Live)의 상황에 도달하게 되었다. 먼저 공격하지 않으면 상대도 우리를 공격하지 않으며, 어쩌다 상대가 실수로라도 대포를 쏘아 공격하면 곧바로 강하게 응징한다. 한번 응징한 다음에 적군이 공격을 멈추면 아군도 적군의 이전 공격을 용서하고 공격을 멈춘다. 앞에서 소개한 TFT를 닮은 이런 전략이 자연스럽게 양쪽 군대에서 출현했다. 심지어 크리스마스를 맞이한 양쪽 군대는 함께 캐롤을 부르고 초콜릿을 나누고 친선 축구 경기도 했다고 전해진다. 반복적인 PD 게임에서 충분히 미래의 그림자가 길면 심지어 전쟁의 상황에서도 자연스럽게 협력이 싹틀 수 있다는 것을 보여주는 생생한 사례다.

출판 후 40여 년이 훌쩍 지난 <협력의 진화>는 지금까지도 우리에게 생생한 목소리를 들려준다. 협력은 이타주의 없이도 출현할 수 있다는 것, 그리고 중앙 권위체가 없어도 얼마든지 협력이 싹틀 수 있다는 것을 알려준 중요한 책이다. 저자는 오른뺨 맞고 왼뺨도 내밀면 나뿐 아니라 무고한 구경꾼에게도 결국 피해를 줄 수 있다고 말한다. 내 양쪽 뺨을 때린 이 녀석은 그렇게 해도 된다고 믿으며 다른 이의 양쪽 뺨을 또 때리려 할 수도 있다. 저자는 무조건적인 협력보다 공평함 이상을 바라지 않는 호혜주의(reciprocity)가 더 든든한 도덕의 토대일 수 있다고 말한다. 이기적인 우리가 이타심 없이도 상호주의를 통해 협력을 창발시킬 수 있다는 것이 이 책의 가장 중요한 결론이다. 그렇다면, 서로에 대한 이타심이 더 추가된다면 우리가 얼마나 큰 규모로 협력할 수 있을지 상상해 보라. 서로를 위하는 이타성으로 엄청난 규모로 협력해 온 이들이 우리 선조다. 지구 모든 생명의 선조다.

*책을 읽고 함께 이야기 나눌 주제

1. 협력의 진화 과정에 대한 저자의 세 질문과 그에 대한 답을 요약해주세요.

2. AllD와 TFT의 총체적 안정성은 개체와 무리의 침범에 대해서 어떻게 다른가요?

3. 객관적인 근거가 없어도 꼬리표는 집단 내의 협력이 안정적으로 지속되도록 합니다. 꼬리표와 신분 체계의 유지를 저자는 어떻게 설명하나요? 신분 체계의 최하층에 있는 사람들이 강고한 신분 체계에서 벗어나려면 어떻게 해야할까요?

4. 저자가 말하는 정당의 순기능은 정당이 추구하는 가치의 객관성과 무관할까요? 정당이라는 꼬리표만 있어도 이러한 순기능이 작동하는 것일까요?

5. 이 책에서 배운 내용을 가지고 미국-이란 전쟁의 진행과 평화 협상의 과정을 죄수의 딜레마의 입장에서 설명해 보세요.

6. 미국-이란 전쟁에서 미국의 전략을 ‘평판’의 입장에서 기술해 보세요. 미국은 골목대장 평판을 얻기 위해 노력하고 있는 것인가요?

김범준 편집위원(성균관대 교수) beomjun@skku.edu

김범준 편집위원(성균관대 교수) 다른기사 보기