확률론 기초: Statistics 110 _ 조건부 확률

본 글은 네이버 부스트코스에서 제공하는 하버드 확률론 기초: Statistics 110 강의를 기초로 정리하였습니다. 

 

 

 

독립과 배반

독립

사건 중 하나가 다른 사건에 대한 정보를 주지 않는 경우에 해당한다. 사건 A가 발생했다고 해서 사건 B의 발생 여부를 알 수는 없는 것과 같다. 

 

 

배반

사건 A가 발생했다면, 사건 B는 발생할 수 없는 경우

 

 

뉴턴-피프스 문제 

각 면이 1부터 6까지 있고, 모든 면이 나올 확률이 동일한 주사위에 대해서 다음 세 가지 가능성 중 가장 확률이 높은 것. 

단, 각 주사위를 던지는 실험은 독립이라 가정한다. 만약 독립이 아니라면 불공정한 주사위로 원하는 결과를 유도할 수 있다. 

 

A. 6개의 주사위 중 적어도 1개의 6이 나올 확률 ← 정답: 뉴턴의 답변

B. 12개의 주사위 중 적어도 2개의 6이 나올 확률

C. 18개의 주사위 중 적어도 3개의 6이 나올 확률 ← 피프스가 예측한 것

 

'적어도 1개' → 합사건 → 여사건 관점에서는 독립인 것의 교집합

 

 

조건부 확률 Conditioning Probability

관건은 새로운 정보를 기초로 어떻게 불확실성과 확률을 갱신해나갈 것인가. 

 

 

 

직관 1. 조약돌 세상 Pebble world

표본 공간 S는 9개의 조약돌과 같고, 전체 질량은 1의 값을 가진다. 이때 사건은 조약돌의 집합과 같다. 

단 한 번의 실험만 허용하며, B의 여집합을 우선 제거하고 전체 값을 1로 만들기 위해 P(B)로 나눠 정규화를 진행한다. 

 

직관 2. 빈도학파 세상 frequentist world

각 시행에 대한 리스트를 생성하고, B가 발생한 시행을 표시한다. 선택된 케이스 중 A도 함께 발생한 경우를 확인한다. 

동일한 실험을 여러 번 반복할 때, 그 확률을 보는 직관적인 관점이다. 

 

 

Theorem

Theorem 1. 

 

Theorem 2. 

 

 

Theorem 3. Bayesian Rule