Logistic regression 설명 (Logistic regression과 MLE)

Logistic regression은 classification의 가장 기본이 되는 모델이다. 기본적인 linear regression이나 이의 발전된 형태인 ridge regression, laplace regression 등이 값을 예측하는 모델이었다면, logistic regression은 label을 예측하는 모델인 것이다. 이번 글에서는 logistic regression이 무엇이고, 이의 parameter를 MLE를 활용하여 어떻게 estimation할 수 있는지에 대해 알아보겠다. 정의 Logistic regression은 1인지 0인지를 classiication하는 binary classification이라고 가정했을 때, 다음과 같은 아주 간단한 식으로 정의할 수 있다. 위 식에서 Ber..