사회자는 세 개의 닫힌 문 앞에 서서 이렇게 말한다. “여기 하나의 문 뒤에는 자동차가, 다른 두 개의 문 뒤에는 염소가 있습니다. 당신이 자동차가 있는 문을 고르면 자동차를 드립니다.” 그리고 출연자가 그중 한 문을 고르면, 문 뒤에 무엇이 있는지 아는 사회자가 다른 문 중 하나를 열고 염소를 보여준다. 그리고는 “혹시 다른 문으로 바꾸시겠습니까?”라고 묻는다. 이 상황에서 당신은 문을 바꾸겠는가? 자신을 믿고 처음에 고른 문을 고수하겠는가?
사람들은 보통 직관적으로, 어쨌든 자동차는 이제 남은 둘 중 하나의 문 뒤에 있을 것이므로 확률은 같을 것으로 생각하지만 그렇지 않다. 정답은 선택을 바꾸는 것이다. 그대로 있으면 자동차를 고를 확률이 처음 문을 선택했을 때와 같은 1/3이지만, 다른 문으로 바꾸면 2/3로 높아진다.
해답을 듣고도 사람들이 쉽게 이해하지 못하는 것은 “어쨌든 자동차가 들어 있는 문은 둘 중 하나일 테니 확률은 반반일 것이다”라는 직관이 워낙 강하기 때문이다. 핵심은 사회자가 어느 문 뒤에 자동차가 있는지 알고서 문을 열었다는 데 있다. 모르고 열었다면 자동차가 있는 문이 열렸을 수도 있었겠지만, 그는 그렇게 하지 않았다.
이 문제는 원래 <퍼레이드>라는 미국 잡지의 고정 칼럼니스트 마릴린 사반트가 1990년에 자신의 칼럼 ‘마릴린에게 물어보세요’에 실으면서 유명해졌다. 그녀는 기네스북에 ‘세계에서 가장 지능지수가 높은 인물’로 기록된 적이 있다.
그녀가 자세한 설명과 함께 답을 밝히자 충격을 받은 수많은 독자가 항의와 반론, 인신공격의 편지를 보냈고, 그중 천 통은 수학이나 공학을 전공한 사람들이었다. 이에 그녀는 “수학의 정답은 투표로 정해지는 게 아니에요”라고 반응했다고 한다. 그래도 이해하지 못하는 사람들에게 그녀는 문이 세 개가 아닌 백만 개 있는 극단적 경우를 예로 들어 물었다고 한다.
“당신이 한 문을 고르고 난 뒤 사회자가 다른 문 하나를 남기고 나머지 999,998개 문 뒤에 자동차가 있지 않은 것을 보여주어도 당신은 원래의 문을 고수하겠는가?” 여기서 우리가 생각하는 것은 자동차가 있는 문을 열 확률이다.
오늘날 우리가 모두 잘 알고 있는 확률이 수학의 역사에 등장한 것은 르네상스 이후의 일이다. ‘회계학의 아버지’라 불리는 이탈리아의 수학자 루카 파치올리(1447~1517)가 <산수, 기하학, 비례와 비례적인 것들의 대전>이라는 책에서 낸 문제로부터 확률이라는 개념이 생겼다.
“A와 B가 판돈 1만 리라를 놓고 내기를 한다. 동전의 앞면이 나오면 A가 1점을 얻고, 뒷면이 나오면 B가 1점을 얻는데 7점을 먼저 딴 사람이 판돈을 모두 갖는다. 그런데 A, B가 각각 5점, 3점이 되었을 때 사정이 생겨 내기가 중단되었다면 판돈을 어떻게 나눠야 하는가?”
이 문제에 대하여 수학자들 사이에 오랫동안 여러 의견이 오고 갔지만 쉽게 결론이 나지 않았는데, 그 이유는 다음과 같다.
1. A가 이기고 있었으니 A가 1만 리라를 다 가져간다. 중단되었을 때 1:0의 상황이라도 이기고 있는 사람이 다 가져가는가? 막 시작한 게임인데 혼자 다 갖는 건 비합리적 아닌가?
2. A와 B가 판돈을 5:3으로 나누어 갖는다. 만일 목표 점수가 7점이 아니라 501점이고 득점이 500:300이라면 어떤가? A가 이긴 게임이나 다름없는데 5:3으로 나눈다면 이 또한 비합리적 아닌가?
이 문제가 해결된 것은 그로부터 150년 세월이 흐른 17세기에 이르러서다. 이 문제를 고심하던 파스칼(1623~1662)은 1654년 아버지의 친구인 페르마에게 편지를 보내 이 문제를 의논하였고, 두 사람은 두 달 정도 편지를 교환한 후 문제를 해결했다고 한다.
그들이 생각한 것은 지금까지 딴 점수가 아니라 남은 경기에서 A 혹은 B가 이길 확률이 각각 얼마인가였다. 목표 점수 7점을 따려면 A는 2점을, B는 4점을 더 따야 한다. 그러므로 이후 결판이 나는 데까지 최대 다섯 번 더 던지면 된다. 다섯 번 던지는 동안 A가 2점을 따든지, B가 4점을 따 7점에 도착할 테니까. B가 이기려면 다섯 번 던지는 동안 앞면이 한 번도 안 나오거나, 한 번만 나와 A를 1점으로 묶어 둔 채 계속 뒷면이 나와야 한다.
즉 아래 있는 것처럼 총 여섯 가지 경우뿐이다. 한편 동전은 매번 던질 때마다 앞면이나 뒷면, 두 가지 경우가 있으니 다섯 번 던지면 2를 다섯 번 곱하여 총 32개의 경우가 생길 수 있다. 따라서 B가 이길 확률은 6/32, 즉 3/16이고 A가 이길 확률은 1–3/16=13/16이다. 따라서 상금은 13:3으로 배분하는 것이 합리적이라는 것이 파스칼과 페르마가 내린 결론이다.
1. 뒷면 뒷면 뒷면 뒷면 뒷면
2. 앞면 뒷면 뒷면 뒷면 뒷면
3. 뒷면 앞면 뒷면 뒷면 뒷면
4. 뒷면 뒷면 앞면 뒷면 뒷면
5. 뒷면 뒷면 뒷면 앞면 뒷면
6. 뒷면 뒷면 뒷면 뒷면 앞면
오늘날 확률은 수학뿐 아니라 우리 생활 전반에 걸쳐 널리 쓰이고 있다. 보험산업에서는 자동차 사고나 질병 등 사망 확률을 기반으로 보험료를 정하고, 의료·보건 분야에서는 임상시험 결과를 해석하거나 전염병의 확산을 예상하는 데 확률을 따진다.
경제·금융 분야에서는 확률로 주식, 환율, 금리 변동 등을 예측하고, 생산 공장에서는 품질 관리에 확률이 사용된다. 이외에도 도박이나 게임, 기상 예보, 통신, 교통·안전 관리 등 확률이 쓰이지 않는 곳을 찾아볼 수 없을 만큼 확률은 널리 활용된다.
확률(probability)이 주어진 ‘모델’이나 ‘법칙’으로부터 나올 결과를 예측하는 것이라면, 이미 일어난 결과인 데이터의 분석으로 그 원인을 추론하는 것은 통계(statistics)다. 사실상 한 몸의 두 얼굴이라고 볼 수 있는 확률과 통계는 오늘날 개인과 기업의 활동에 중요한 결정 요소이다. 특히 국가의 정책을 정하는 데는 부처를 가릴 것 없이 모든 분야에서 필수불가결한 도구다. 정부 내에 따로 통계청을 두고 데이터를 수집하여 통계 자료를 내는 이유다.
만일 이 자료에 오류가 있다면 국가 정책이 크게 잘못될 우려가 있다. 지난날 어떤 정권처럼 정부의 실책을 감추기 위해 통계청장을 바꿔가며 통계를 조작하는 행위는 절대 일어나서는 안 될 일이다.
