godingMath

전설의 수학 문제를 찾아서, 첫 번째 문제는 몬티홀 문제입니다. 몬티홀 문제를 풀어보고 그 의미를 이해하면 조건부 확률의 개념과 기법을 익히는데 큰 도움이 됩니다. 이 글에서는 몬티홀 문제를 다양한 방법으로 풀어보고, 다음과 같은 것들에 대해 이야기 해보겠습니다.

1. 나중에 발생하는 사건을 전제로 사용하는 조건부 확률의 해석 (베이즈 정리)
2. 특정한이라는 단어를 사용하여 조건부 확률의 문제를 새로 정의해 주기
3. 통계를 사용하여 확률값을 계산해보기

전설이라고 부를 수 있는 수학 문제들은 어떤 것일까요? 문제 풀이의 난이도와 관계 없이, 수학 문제를 푸는 재미가 있는 문제, 학문적인 의미를 가지고 있는 문제, 문제 풀이의 원리가 여러 다른 문제에서도 두고 두고 사용되는 문제입니다. “전설의 수학 문제를 찾아서”는 전설이라고 부를 수 있는 수학 문제들을 찾아 풀어보고, 무엇을 배울 수 있는지 그 배경과 의미를 설명하는 연재글입니다.

몬티홀 문제의 의미

전설의 수학 문제를 찾아서 연재의 첫번째 전설의 문제는 몬티홀 문제입니다. 몬티홀 문제는 대중적으로 정말 많이 알려져 있는 문제이기도 하지만 조건부 확률의 핵심을 관통하고 있는 문제이기 때문에 학문적으로도 큰 의미가 있는 문제입니다. 몬티홀 문제를 풀어봄으로써 조건부 확률 문제를 바르게 정의하고 계산하는 법과 베이즈 정리, 그리고 조건부 확률의 여러 함정들과 그 함정들을 해결할 수 있는 기법들을 배울 수 있습니다. 또한 이러한 원리와 기법들은 조건부 확률의 또 다른 전설적인 문제를 해결하는데 사용할 수 있습니다.

몬티홀 문제

퀴즈쇼의 우승자는 세 개의 문 중에서 하나를 선택할 수 있는 기회를 받습니다. 한 개의 문 뒤에는 자동차 한대가 있고 나머지 문 뒤에는 염소가 있습니다.우승자는 문 뒤에 무엇이 있는지를 알 수 없지만 퀴즈쇼의 진행자는 문 뒤에 무엇이 있는지 볼 수 있습니다. 우승자가 1개의 문을 선택하고 나면 진행자는 나머지 2개의 문 중에서 하나를 골라 우승자에게 염소를 보여줍니다. 우승자가 염소를 보고 난 뒤 자신이 원래 선택했던 문을 바꿀 수 있는 기회를 갖는다면 우승자는 자신의 선택을 바꾸는 것이 좋을까요?

몬티홀 문제가 유명해진 가장 큰 이유는 문제의 답이 우리의 직관과 다르기 때문입니다. 언뜻 보면 진행자가 보여준 염소 한 마리를 제외하고 나면 염소 한 마리와 자동차만 남게 되므로 우승자가 선택한 문 뒤에 자동차가 있을 확률과 염소가 있을 확률은 각각 \(\dfrac{1}{2}\) 로 서로 같아 보입니다. 이렇게 두 확률이 서로 같다면 굳이 우승자가 자신이 선택한 문을 바꿀 이유가 없어 보입니다.

하지만 실제로는 우승자가 선택한 문 뒤에 자동차가 있을 확률=\(\dfrac{1}{3}\) 이고, 우승자가 선택한 문 뒤에 염소가 있을 확률=\(\dfrac{2}{3}\) 가 되어 우승자가 선택한 문 뒤에 염소가 있을 확률이 자동차가 있을 확률보다 2배 더 높습니다. 따라서 우승자는 자신의 선택을 바꾸는 것이 유리합니다.

진행자가 한개의 문을 열어 염소를 보여준 이후에, 우승자가 선택한 문 뒤에 있을 수 있는 것은 염소 아니면 자동차입니다. 모든 경우의 수가 2가지 인데 왜 확률은 \(\dfrac{1}{2}\) 이 되지 않을까요?

모든 경우의 수가 2라고 해서 각각의 경우가 일어날 확률이 \(\dfrac{1}{2}\)인 것은 아니다.

모양과 크기가 같은 검은색 공 99개와 흰색 공 1개가 들어있는 상자가 있습니다. 그 상자에서 공 하나를 뽑았을 때 관찰할 수 있는 공의 색은 검은색과 흰색으로 모두 2가지입니다. 그렇다면 이 상자에서 공 하나를 뽑았을 때 그 공의 색이 검은색이 될 확률은 얼마일까요? 전체 경우의 수 2이므로 검은색 공을 뽑을 확률은 \(\dfrac{1}{2}\) 라고 할 수 있을까요?

흔히 확률을 계산할 때 문제에서 요구하는 경우의 수를 세고 그 수를 전체 경우의 수로 나누어 줍니다. 이러한 계산 방법은 전체 경우의 수(표본공간의 원소의 개수)가 \(n\)일 때, 각각의 경우(근원사건)가 일어날 확률은 모두 \(\dfrac{1}{n}\) 로 같다는 것에 근거를 두고 있습니다.  이러한 계산 방법을 몬티홀 문제에 적용하면, 문뒤에 염소나 자동차가 있어야 할 확률은 각각 \(\dfrac{1}{2}\)로 같아야 합니다. 몬티홀 문제에서 문 뒤에 존재할 수 있는 것은 염소 또는 자동차 모두 2가지이므로 문뒤에 염소가 있을 확률과 문 뒤에 자동차가 있을 확률은 \(\frac{1}{2}\) 로 모두 같다고 보는 것이죠. 하지만 상자에서 공을 뽑을 때와 같이 이러한 추론은 언제나 옳은 것은 아닙니다.

고전적인 확률의 정의에 따르면 근원 사건이 일어날 가능성이 모두 같다고 기대할 수 있을 때에만 특정한 사건이 일어날 확률을 전체 경우의 수(표본공간의 원소의 개수)로 나누어 구할 수 있습니다.

상자에서 공 1개를 꺼내는 것을 확률에 정의에 맞추어 다시 생각해보겠습니다. 검은색 공 99개와 흰색 공 1개가 들어있는 상자에서 공 하나를 뽑을 때 관찰할 수 있는 색은 모두 2가지입니다. 하지만 상자안에 들어있는 검은색 공의 개수와 흰색 공의 개수가 서로 다르기 때문에 검은색 공을 뽑을 가능성과 흰색 공을 뽑을 가능성이 같다고 기대할 수는 없습니다. 따라서 검은색 공을 뽑을 확률과 흰색 공을 뽑을 확률을 구할 때 전체 경우의 수인 2로 나누어 \(\dfrac{1}{2}\)이라고 할 수는 없는 것입니다.

몬티홀 문제도 마찬가지입니다. 우승자가 고른 문 뒤에 있을 수 있는 것은 염소와 자동차 모두 2가지이지만, 염소가 그 문 뒤에 있게 될 가능성과 자동차가 그 문 뒤에 있을 문 뒤에 있을 가능성의 크기를 서로 비교해 보기전까지는 전체 경우의 수인 2로 나누는 방법으로 원하는 확률을 계산할 수 없습니다. 결국 몬티홀 문제의 해답이 우리의 직관과 다른 가장 큰 이유는 우승자가 고른 문 뒤에 염소가 있을 가능성과 자동차가 있을 가능성이 서로 다르기 때문입니다.

우승자의 선택에 따라 진행자가 해야할 일이 달라진다.

몬티홀 문제에서 우승자가 선택한 문 뒤에 염소가 있을 확률과 자동차가 있을 확률이 다른 이유는 우승자가 처음 선택한 문 뒤에 무엇이 있는지에 따라 진행자가 열어야 할 문이 달라지기 때문입니다.

예를 들어, 우승자가 선택한 문 뒤에 염소가 있었다면 진행자는 어쩔수 없이 다른 염소가 있는 문만을 열어야 합니다. 하지만 우승자가 선택한 문뒤에 자동차가 있었다면 진행자는 염소가 있는 나머지 두 문중에서 하나의 문을 선택하여 우승자에게 염소를 보여줄 수있습니다.

따라서 몬티홀 문제를 올바르게 풀기 위해서는 우승자가 선택한 문 뒤에 무엇이 있는지에 따라 진행자의 행동이 어떻게 달라지는지를 분석해야 합니다.

두 염소를 구별하는 것이 중요하다.

몬티홀 문제를 풀 때 가장 중요한 것은 두 염소를 염소a, 염소b로 이름을 붙여 구별해 두는 것입니다. 설령 두 염소의 외관이 완전히 같다고 하더라도 두 염소를 구별하는 것이 가능합니다. 앞서 상자속의 공의 경우도 동일한 크기와 모양을 가진 검은색 공 99개도 다른 것으로 취급해야 상자안에서 공 1개를 뽑았을 때 그 공의 색이 검은색이 될 확률이 \(\frac{99}{100}\) 가 됩니다. 경우의 수 문제와는 달리, 확률 문제에서는 외관이 서로 구별 되지 않는 것들을 서로 다른 것으로 취급하여 푸는 것이 가능합니다.

경우의 수 문제와는 달리, 확률 문제에서는 근원사건이 일어날 가능성이 같기만 하면, 표본 공간을 정하는 방법에 제한이 없습니다. 확률 문제는 가능성을 계산하는 것이기 때문입니다. (결국 다시 확률의 정의에 대한 이야기 이고, 확률의 정의에 대해서는 다른 글에서 다시 한번 자세히 다뤄보겠습니다.)

‘특정한’을 잘 사용하면 조건부 확률 계산이 쉬워진다.

몬티홀 문제에서 진행자는 두 염소 중 어느 한 염소를 더 특별히 취급하지 않고 동등히 다루고 있습니다. 따라서 우리는 진행자가 문을 열어 보여준 염소를 염소a나 염소b와 같이 특정한 염소로 정해 놓고 시작해도 무관합니다. 따라서 몬티홀 문제는 다음과 같이 바꿀 수 있습니다.

진행자가 특정한 염소를 보여주었을 때, 우승자가 원래 선택한 문 뒤에 자동차가 있을 확률과 , 나머지 염소가 있을 확률을 구하는 것

통계적 풀이

두 염소를 염소a, 염소b로 구별하면 단순한 통계적 계산만으로 몬티홀 문제에서 요구하는 확률을 쉽게 계산할 수 있습니다. 게임쇼가 600회 진행되었다고 가정하고, 우승자가 선택한 문 뒤에 자동차, 염소a, 염소b가 있을 때에 따라 진행자가 어떠한 행동을 해야하는지 생각해보겠습니다.

$$
\begin{array}{c|c|c|c}
\text{진행자가 고른 염소}\overset{\LARGE\setminus}{\phantom{.}}\overset{\Large \text{우승자가 지정한 문 뒤에 있는 것}}{\phantom{l}} & \text{자동차} & \text{염소}a & \text{염소}b \\
\hline
\text{염소}a & 100 & 0 & 200 \\
\hline
\text{염소}b & 100 & 200 & 0 \\
\hline
\text{합} & 200 & 200 & 200
\end{array}
$$

경우1 : 우승자가 선택한 문 뒤에 자동차가 있을 때

앞서 이야기한 바와 같이 우승자가 선택한 문 뒤에 자동차와 염소a, 염소b가 있을 가능성은 모두 같습니다. 따라서 600회의 퀴즈쇼에서 우승자가 선택한 문 뒤에 자동차가 있는 경우는 평균적으로 200번을 기대할 수 있습니다. 우승자가 선택한 문 뒤에 자동차가 있기 때문에 나머지 2개의 문 뒤에는 염소a와 염소b가 있습니다. 이제 퀴즈쇼의 진행자는 두 염소중 하나의 염소를 선택하여 우승자에게 염소를 보여주어야 합니다. 진행자는 두 염소를 동등하게 취급하므로 염소a와 염소b를 보여줄 가능성은 서로 같습니다. 따라서 진행자는 염소a를 (200회의 절반인) 100번 선택하여 우승자에게 보여주고, 염소b 역시 100번을 우승자에게 보여주게 됩니다. (염소a : 100번, 염소b : 100번)

경우2 : 우승자가 선택한 문 뒤에 염소a가 있을 때

600회의 퀴즈쇼에서 우승자가 선택한 문 뒤에 염소a가 있는 경우도 역시 평균적으로 200번을 기대할 수 있습니다. 우승자가 선택한 문 뒤에 염소a가 있기 때문에 나머지 2개의 문 중 1개의 문 뒤에는 자동차가 있고, 나머지 1개의 문 뒤에는 염소b가 있습니다. 진행자가 우승자에게 염소를 보여주려면 진행자는 어쩔 수 없이 200번 중 200번 모두 염소b가 있는 문을 열어야 합니다. (염소a : 0번, 염소b : 200번)

경우3 : 우승자가 선택한 문 뒤에 염소b가 있을 때

우승자가 선택한 문뒤에 염소a가 있을 때와 마찬가지 입니다. 이 경우에도 진행자는 200번중 200번 모두 모두 염소a가 있는 문을 열어야 합니다. (염소a : 200번, 염소b : 0번)

이제 다시 몬티홀 문제로 돌아가 보겠습니다. 앞서 우리는 몬티홀 문제를 다음과 같이 바꾸었습니다.

진행자가 특정한 염소를 보여주었을 때, 우승자가 원래 선택한 문 뒤에 자동차가 있을 확률과 , 나머지 염소가 있을 확률을 구하는 것

특정한 염소를 염소a라고 할 때

특정한 염소를 염소a로 생각하고 몬티홀 문제를 풀어보겠습니다. [경우1,2,3]을 종합해 보면, 게임쇼가 600번 진행되는 동안 진행자는 우승자에게 염소a를 300번 보여주게 됩니다. (이 것은 사실 당연한 결과입니다. 염소a와 염소b는 동등하게 취급되기 때문에 진행자는 두 염소를 선택할 가능성은 서로 같습니다. 따라서 진행자는 600번의 절반에 해당하는 300번은 염소a를 우승자에게 보여주게 됩니다.)

또한 [경우1,2,3]에서 종합해 보면, 진행자가 염소a를 보여주는 횟수는 [경우1]에서 100번, [경우3]에서 200번으로 모두 300번입니다. 그런데 [경우1]에서는 우승자가 선택한 문 뒤에 자동차가 있고, [경우3]에서는 우승자가 선택한 문 뒤에 염소b가 있습니다.

$$
\begin{array}{c|c|c|c}
\text{진행자가 고른 염소}\overset{\LARGE\setminus}{\phantom{.}}\overset{\Large \text{우승자가 지정한 문 뒤에 있는 것}}{\phantom{l}} & \text{자동차} & \text{염소}b & \text{합} \\
\hline
염소a & 100 & 200 & 300 \\
\end{array}
$$

따라서 진행자가 우승자에게 염소a를 보여주는 300번 동안 우승자가 선택한 문 뒤에 자동차가 있는 경우는 모두 100번이고, 염소b가 있는 경우는 모두 200번이 됩니다. 즉 우승자가 선택한 문 뒤에 염소b가 있을 가능성(300번중 200번)이 자동차가 있을 가능성(300번중 100번)보다 2배 높기 때문에 우승자는 자신의 선택을 바꾸는 것이 좋습니다.

특정한 염소를 염소b라고 할 때

특정한 염소를 염소b라고 해도 마찬가지 입니다. [경우1,2,3]을 종합해 보면, 진행자가 우승자에게 염소b를 300번 보여주는 동안, 우승자가 선택한 문 뒤에 자동차가 있는 것은 [경우2]의 100번이고, 염소b가 있는 것은 [경우3]의 200번입니다. 따라서 우승자가 선택한 문 뒤에 염소a가 있을 가능성(300번중 200번)이 자동차가 있을 가능성(300번중 100번)보다 2배 높기 때문에 우승자는 자신의 선택을 바꾸는 것이 좋습니다.

$$
\begin{array}{c|c|c|c}
\text{진행자가 고른 염소}\overset{\LARGE\setminus}{\phantom{.}}\overset{\Large \text{우승자가 지정한 문 뒤에 있는 것}}{\phantom{l}} & \text{자동차} & \text{염소}a & \text{합} \\
\hline
염소b & 100 & 200 & 300 \\
\end{array}
$$

따라서 우승자가 어떤 염소를 보든지 우승자가 선택한 문 뒤에는 자동차가 있을 가능성보다 다른 염소가 있을 가능성이 2배 높기 때문에 우승자는 자신의 선택을 바꾸는 것이 좋습니다.

몬티홀 문제의 확률적 표현

조건부 확률 \(P(A|B)\)는 사건 \(B\)가 일어났다는 전제하에, 사건 \(A\)가 일어날 확률을 뜻합니다. 따라서 몬티홀 문제를 조건부 확률로 정의하여 풀기 위해서 가장 먼저 해야할 일은 전제가 되는 사건과 나머지 사건을 정의해 주어야 합니다. 만약 앞에서와 같이 두 염소를 염소a와 염소b로 구별한다면 특정한’이라는 단어를 사용하여 전제가 되는 사건\(B\)와 사건\(A\)를 ‘ 다음과 같이 정의할 수 있습니다.

• 사건 \(B\) : 특정한 염소가 있는 문을 진행자가 열어 보여주는 것
• 사건 \(A\) : 우승자가 선택한 문 뒤에 자동차가 있는 것

이렇게 두 사건을 정의해주면, 몬티홀 문제는 “특정한 염소가 있는 문을 진행자가 열어주었을 때(사건B) 우승자가 선택한 문 뒤에 자동차가 있을(사건A) 조건부 확률”을 구하는 것으로 표현할 수 있습니다. 하지만 몬티홀 문제를 이렇게 정의하고 나면 조금 이상한 부분이 생깁니다. 진행자가 특정한 염소가 있는 문을 열어줄 수 있는 것은 우승자가 먼저 문을 선택한 다음에야 일어날 수 있는 일입니다. 그런데 조건부 확률로 표현한 몬티홀 문제에서는 진행자가 문을 열어주는 것을 전제로 정의하였습니다. 어떻게 나중에 일어나는 사건이 그보다 앞서 일어나는 사건의 전제 조건이 될 수 있을 까요? 이것이 바로 몬티홀 문제를 어렵게 만든 가장 큰 이유입니다.

조건부 확률의 해석

조건부 확률의 해석은 전제가 되는 사건이 발생하는 시점에 따라 달라집니다. 먼저 전제가 되는 사건이 다른 사건보다 앞서 일어나는 조건부 확률의 의미는 전제가 되는 사건이 만들어 놓은 상황에서, 앞으로 일어나게 될 다른 사건의 가능성을 구하는 것입니다.

이와 반대로, 전제가 되는 사건이 다른 사건보다 나중에 일어나는 조건부 확률의 의미는 전제가 되는 사건이 일어나게 된 원인들 중에서 특정한 원인이 전제가 되는 사건이 발생하는데 끼친 영향이 어느 정도인지를 비교하는 것입니다.

예를 들어 몬티홀 문제에서 진행자가 보여준 특정한 염소를 염소a라고 한다면, 진행자가 염소a를 보여 주게 된 원인은 우승자가 선택한 문 뒤에 자동차가 있기 때문이거나, 염소b가 있기 때문입니다. (만약 우승자가 선택한 문 뒤에 염소a가 있다면 진행자는 염소a를 보여줄 수 없습니다.)

따라서 진행자가 염소a를 보여주었을 때, 우승자가 선택한 문뒤에 자동차가 있을 조건부 확률을 구하려면 진행자가 염소 a를 보여주게 된 여러 이유들 중에서 우승자가 선택한 문 뒤에 자동차가 있는 것이 어느 정도의 비중을 차지하고 있는지 계산해 주면 됩니다.

이러한 계산을 일반화 시킨 것이 베이즈 정리입니다. 베이즈 정리의 의미는 다음 글에 정리해 두었습니다. (→베이즈 정리와 조건부 확률의 관계)

진행자가 염소a를 보여주게 된 이유

진행자가 염소a를 보여준 원인은 2가지를 생각해볼 수 있습니다.

원인1: 우승자가 선택한 문 뒤에 자동차가 있었기 때문에

우승자가 선택한 문 뒤에 자동차가 있다면 진행자는 염소a와 염소b 중 한 마리를 선택해서 보여줄 수 있습니다. 진행자는 두 염소를 동등하게 취급하므로 두 염소를 선택할 확률은 동일합니다. 우승자가 선택한 문 뒤에 자동차가 있을 확률은 \(\frac{1}{3}\) 이므로, 우승자가 선택한 문 뒤에 자동차가 있고 진행자가 염소a를 선택해서 우승자에게 보여줄 확률은 $$\frac{1}{3}\times\frac{1}{2}=\frac{1}{6}\tag{1}$$ 이 됩니다.

원인2: 우승자가 선택한 문 뒤에 염소b가 있었기 때문에

우승자가 선택한 문 뒤에 염소b가 있다면, 진행자는 염소a를 무조건 보여줄 수 밖에 없습니다. 우승자가 선택한 문뒤에 염소b가 있을 확률은 \(\frac{1}{3}\) 이므로, 우승자가 선택한 문 뒤에 염소b가 있고 진행자가 염소a를 선택해서 우승자에게 보여줄 확률은$$\frac{1}{3}\times\frac{1}{1}=\frac{1}{3}\tag{2}$$입니다.

이제 이 (1)과 (2)의 확률을 더하면 $$P(B)=\frac{1}{6}+\frac{1}{3}=\frac{1}{2}\tag{2}$$를 얻을 수 있습니다. (사실, 이것은 당연한 결과입니다. 굳이 두 확률을 더하지 않더라도 진행자가 염소a를 우승자에게 보여줄 확률은 \(\frac{1}{2}\) 가 되어야 합니다. 진행자는 염소a와 염소b를 완전히 동등하게 다루고 있기 때문에  진행자가 염소a를 우승자에게 보여줄 확률과 염소b를 보여줄 확률은 \(\frac{1}{2}\)로 서로 같아야 합니다.)

따라서 전체 원인들 중 우승자가 선택한 문 뒤에 자동차가 있는 것의 비중은 $$P(A|B)=\frac{P(A\cap B)}{P(B)}=\frac{(1)}{(1)+(2)}=\frac{\frac{1}{6}}{\frac{1}{2}}=\frac{1}{3}$$ 이고, 우승자가 선택한 문 뒤에 염소b가 있는 것의 비중은 $$1-P(A|B)=1-\frac{1}{3}=\frac{2}{3}$$ 입니다. 따라서 진행자가 염소a를 보여주었을 때 우승자는 자신이 선택한 문 뒤에 염소b가 있을 확률이 자동차가 있는 확률보다 2배 높으므로 자신의 선택을 바꾸는 것이 좋습니다. 이 것은 앞서 통계를 이용한 풀이와 동일한 결론입니다.

몬티홀 문제에서 배울 수 있는 것

1. 나중에 발생하는 사건을 전제로 사용하는 조건부 확률의 해석 (베이즈 정리)
2. 특정한이라는 단어를 사용하여 조건부 확률의 문제를 새로 정의해 주기
3. 통계를 사용하여 확률값을 계산해보기

몬티홀 문제와 같이 나중에 발생하는 사건을 전제로 사용하는 것은 조건부 확률을 어렵게 만드는 고전적인 장치입니다. 나중에 발생하는 사건이 전제로 사용되면 조건부 확률의 의미는 원인들이 결과에 미치는 영향을 분석하면 조건부 확률을 잘 계산할 수 있습니다. ‘특정한’ 이라는 단어를 사용하여 조건부 확률 문제를 바꿀 수 있는 것도 기억해 주세요.