[확률과정론] 베이지안 통계 추론 (Bayesian Statistical Inference)

- 베이지안과 빈도주의의 차이에 대해 정리했습니다.

- 나이브 베이즈예시인 스팸 필터링에 대해 정리했습니다.

- MAP Estimation, MAP Rule과 이에 대한 예시에 대해 정리했습니다.

- Bayesian LMS Estimation에 대해 정리했습니다.

  1) MAP보다는 LMS가 성능이 낫다.

  MAP는 posterior가 최댓값이 되는 한 점에서의 정보를 이용.

  LMS는 기댓값을 통해 posterior 전체 정보를 이용. (fully-bayesian)

- LMS의 한계점에 대해 정리했습니다.
 1) Posterior의 pdf를 구하기 어렵다. (Evidence)

 2) pdf를 구해도 expectation을 계산하기 어렵다. (적분이 intractable)

 => 차선으로 observation의 선형함수를 이용하여 이를 근사해서 문제를 해결했습니다.

- LMS와 Linear LMS는 항상 LMS의 에러가 항상 작지만 파라미터들이 독립이고 가우시안을 따르면 등식이 성립합니다.

Bayesian Statistical Inference.pdf

1.29MB