Exponential Family 설명 (지수족이란?)

통계학이나 머신 러닝 공부를 하다 보면 exponential family라는 단어를 종종 접할 수 있다. 이번 포스팅에서는 exponential family가 무엇인지에 대해 알아보고, 이 예시에는 어떤 것이 있는지 알아보겠다. 정의 y를 random variable, eta를 parameter라고 할 때 Exponential family는 아래와 같은 형태로 표현될 수 있는 분포를 의미한다. 여기서 우리는 h(y)를 scaling constant 혹은 base measure, T(y)를 sufficient statistics, eta를 natural parameter, Z(eta)를 p(y|eta)의 합을 1로 만들어주는 normalization constant인 partition function, A..