Kernel Method란? (Kernel density estimation이란?) - Parzen window란?

어떤 데이터의 분포를 파악하는 것은 데이터 분석에 있어서, 나아가 머신 러닝에 있어서 굉장히 중요한 단계이다. 하지만 실제 데이터는 대부분의 경우에 정규 분포와 같은 예쁜 분포 형태를 따르지 않고, 어떤 분포를 따르는지 전혀 알 수가 없다. 이런 경우에 데이터의 분포를 추정하여 확률 밀도(probability density)를 추정하는 방법에는 histogram, kernel density estimation, K-nearest neighbor 등 다양한 방법이 있다. 이번 포스팅에서는 그 중에서 kernel density estimation (kernel method), 그리고 그 대표적인 방법인 parzen window에 대해 알아볼 것이다. Motivation 우리의 목표는 확률 밀도(probabi..