개요
죄수의 딜레마(prisoner's dilemma)는 개인의 합리적 선택이 집단 전체에는 나쁜 결과를 낳을 수 있음을 보여 주는 게임이론의 대표 모형이에요. 게임이론은 폰 노이만과 모르겐슈테른이 1944년 『게임이론과 경제 행동』으로 체계화한, 여러 행위자가 서로의 선택을 고려하며 결정하는 상황을 분석하는 학문이에요. 죄수의 딜레마는 1950년 미국 RAND 연구소의 플러드와 드레셔가 고안했고, 수학자 앨버트 터커가 두 죄수 이야기로 설명하면서 이름이 붙었어요.
보수행렬로 보는 구조
공범인 두 용의자가 따로 조사를 받아요. 둘 다 침묵하면 각각 가벼운 형을, 둘 다 자백하면 둘 다 중간 정도의 형을 받아요. 한 명만 자백하면 자백한 사람은 풀려나고 침묵한 사람은 무거운 형을 받아요(구체적인 형량은 설명을 위한 예시예요).
- 상대가 침묵하든 자백하든 나는 자백하는 편이 형이 가벼워요. 그래서 자백은 우월전략이에요.
- 둘 다 자백하는 결과가 누구도 혼자 선택을 바꿔 이득을 볼 수 없는 내시균형이에요. 내시(1950)가 일반적으로 정의한 균형 개념이에요.
- 그러나 둘 다 침묵하는 쪽이 두 사람 모두에게 더 좋으므로, 균형 결과는 파레토 최적이 아니에요.
이 구조는 기업 간 가격 경쟁처럼 돈이 걸린 결정에서 특히 잘 드러나요. 두 회사가 모두 높은 가격을 유지하면 이익이 크지만, 각자는 가격을 내려 고객을 빼앗을 유인이 있어 결국 가격 인하 경쟁으로 이어지곤 해요.
반복게임과 팃포탯
게임을 한 번만 하면 배신이 합리적이지만, 같은 상대와 여러 번 반복하면 상황이 달라져요. 액설로드(1984)는 여러 학자가 만든 전략을 컴퓨터 대회로 겨루게 했는데, 처음에는 협력하고 이후에는 상대가 직전에 한 대로 따라 하는 단순한 팃포탯(tit-for-tat) 전략이 가장 좋은 성적을 냈어요. 자세한 내용은 협력의 진화 문서에서 다뤄요.
한계와 논쟁
모형은 참가자가 자기 이익만 따지고 서로 의사소통할 수 없다고 가정해요. 실제 실험에서는 상당수 사람이 한 번뿐인 게임에서도 협력을 택하고, 공정성이나 신뢰, 평판이 선택에 영향을 줘요. 또 현실의 많은 상황은 참가자가 많거나 보수가 불확실해, 공공재 게임이나 공유지의 비극 같은 확장 모형으로 분석하기도 해요.
경영·정책·협상에서 활용하기
과점 시장의 가격 결정과 광고 경쟁, 담합이 쉽게 깨지는 이유, 국가 간 군비경쟁과 안보 딜레마, 기후변화 협상처럼 모두가 협력하면 좋지만 각자는 무임승차할 유인이 있는 문제를 설명할 때 쓰여요. 기업 전략 수업이나 경영 컨설팅·공공기관 면접에서는 장기 계약, 신뢰 구축, 위반 시 제재처럼 협력을 유지하게 만드는 장치를 함께 제시하는 것이 좋은 답이 되며, 이는 협상 이론과도 연결돼요.
출처 검토일: 2026-10-16
참고문헌
- von Neumann, J., & Morgenstern, O. (1944). Theory of Games and Economic Behavior. Princeton, NJ: Princeton University Press.
- Nash, J. F. (1950). Equilibrium points in n-person games. Proceedings of the National Academy of Sciences, 36(1), 48–49.
- Axelrod, R. (1984). The Evolution of Cooperation. New York: Basic Books.
- Poundstone, W. (1992). Prisoner's Dilemma. New York: Doubleday.
캠퍼스다운 자료실에는 이 주제를 다룬 자료도 있어요: 「죄수의 딜레마로 본 협력의 진화와 남북통일, 팃포탯 전략」.