틴매일경제

제2차 세계대전이 진행 중이던 1944년 헝가리 출신 천재 수학자 폰 노이만은 경제학자 오스카르 모르겐슈테른과 함께 경제학에 새로운 분석 방법인 게임이론을 제안했다. 게임이론은 게임 참여자의 전략적 행동을 분석하는 분야로, 냉전시대의 군비 증강 경쟁 분석에 응용되곤 했다. 그러나 당시 연구 수준으로는 그 외에 게임이론으로 분석할 만한 사례가 별로 발굴되지 않아 지금처럼 널리 활용되지 않던 상황이었다. 이때 한 젊은 천재 수학자가 폰 노이만에게 자신의 아이디어를 들고 찾아왔다. 그는 웨스트버지니아주 출신의 존 내시였다.

Q. 존 내시는 어떤 사람이었나요?

A. 젊은 나이부터 수학에 재능을 드러냈던 존 내시는 프린스턴대에서 수학 박사 학위를 받은 후 매사추세츠공과대(MIT)에서 교수로 몸담았다. 그는 수학적 난제에 접근할 때 기존 연구의 답습을 과감히 거부하고, 자신만의 창의적 사고로 풀어내기를 고집했다. 그 덕분에 내시는 독창적인 수학 증명을 창안할 수 있었으며, 괴팍한 성격에도 불구하고 수학자로서 천재성을 인정받았다. 그는 주변 동료들이 풀지 못하는 문제를 해결하면서 지적 성취감과 우월감을 느끼는 성격이었다. 그는 게임이론을 개선시킬 아이디어를 고안했으나 당시엔 완성이 덜 되었는지 노이만에게 냉대를 당하고 말았다. 하지만 그는 낙담하지 않고 자신의 아이디어를 박사 학위 논문으로 발전시켰으며, 이 연구는 존 내시 스스로는 의도하지 않았지만 게임이론 발전의 획기적 전기가 된다.

Q. 게임이론은 어떤 학문인가요?

A. 게임이론은 두 명 이상의 '참가자(player)'가 각자 상대방의 행동을 염두에 두고 자신의 '행동(action)'을 선택하고 이에 따라 '보수(payoff)'를 받는 전략적 상황(strategic situation)을 분석한다. 게임이론은 스포츠나 오락게임뿐만 아니라 국가 간 전쟁, 무역 정책, 기업의 전략과 같은 거시적 현상부터 연인들 간 데이트와 같은 일상 상황에까지 광범위하게 응용된다. 가령 휴대폰을 제조하고 있는 두 회사 S사, A사를 생각해보자. 두 회사는 시장을 양분해 10억원씩 수익을 올리고 있다. 한 회사가 5억원의 비용을 들여 획기적인 신기술을 개발할 경우 경쟁사의 시장점유율을 뺏어올 수 있다. 하지만 만약 상대 기업이 이를 사전에 예상하고 자신도 신기술을 개발한다면 점유율을 뺏어올 수 없으며 양사가 서로 개발 비용만 지출하게 되는 소모적 경쟁으로 이 경쟁이 끝나고 만다. 이런 상황에서 S사는 어떤 선택을 해야 할까? 두 기업이 처한 상황을 알기 쉽게 표(보수행렬·payoff matrix)로 나타내면 다음과 같다. 각 회사가 선택할 수 있는 행동이 두 가지(개발 안 함, 신제품 개발)이므로 발생 가능한 선택 조합의 수는 총 네 가지가 되며, 대각선 아래쪽 숫자가 S사의 보상, 위쪽이 A사의 보상이다.

보수행렬을 살펴보면 각 회사의 보수는 자신의 선택뿐만 아니라 상대방 선택에 의해서도 영향을 받는다는 것을 확인할 수 있다. 상대방이 장차 어떤 행동을 취할지 신경 쓰지 않고 자신의 보수만 극대화하도록 선택하면 되는 기존 경제학의 선택이론으로는 이 상황을 분석하기 쉽지 않다. 가령 S사 입장에서 '신제품 개발'을 결정했을 때 A사 역시 '신제품 개발'을 선택한다면 S사의 보수는 차라리 '신제품 개발'을 선택하지 않았을 때보다 줄어든다.

Q. 게임이론 문제의 해결 방법은?

A. 게임이론가가 이와 같은 문제의 해(solution)를 찾는 방법은 무엇일까? 이에 대한 복잡다변한 많은 논의가 있었다. 이를 한마디로 줄이면 '특정한 선택 조합에서 참여자 모두 그 전략에서 선택을 바꿀 이유가 없다면, 그 조합은 그 문제의 해라고 할 수 있다'이다. 이에 대해 위 사례를 통해 꼼꼼히 살펴보자.

두 회사 모두 '개발 안 함'을 선택한 상황을 살펴보자. S사는 '신제품 개발'을 선택하는 것이 보수를 늘려주므로(10→15) 해당 선택 조합에서 벗어나려 할 것이다(그리고 이는 A사 입장에서도 마찬가지이다).

두 회사 중 한 곳만 '신제품 개발'을 선택하는 상황에서는 '개발 안 함'을 선택한 회사가 '신제품 개발'로 선택을 변경하는 것이 수익을 늘리는 방법이므로(0→5) 이것 역시 해라고 볼 수 없다. 한편 두 회사 모두 '신제품 개발'을 선택한 상황에서는 S사가 마음을 바꿔 '개발 안 함'을 선택하면 수익은 감소하므로(5→0) 선택을 바꿀 이유가 없다. 또한 이것은 A사도 마찬가지다. 따라서 두 회사는 모두 '신재품 개발'을 선택하게 될 것이다. 이와 같은 해를 '내시 균형'이라고 하며, 이러한 존 내시의 해법은 참여자와 선택지가 두 개 이상인 더 복잡한 게임에서도 수월하게 적용할 수 있다. 따라서 존 내시의 작업은 게임이론의 적용 분야를 획기적으로 늘려 게임이론이 독립적인 학문 분과로 발전하는 초석을 제공했다는 평을 받는다.

■ 알쏭달쏭 OX퀴즈

1. 게임이론은 참여자가 2명일 때만 분석 가능하다. ( )

2. 게임 참여자는 자신이 선택을 내릴 때 상대방의 선택까지 고려하여야 한다. ( )

3. 보수행렬은 참여자들의 선택 조합에 따른 보수를 나타낸 것이다. ( )

▶ 정답 = 1. X 2. ○ 3. ○

[임성택 경제경영연구소 연구원]