Likelihood

MLE의 예시

MLE

• Likelihood는 Data가 주어졌을 때, 해당 데이터가 특정 확률분포에서 관측될 확률을 말한다.
• MLE는 Likelihood를 최대화 하는 분포를 찾는 것이다.

• 위와 같은 데이터 분포가 주어졌다고 가정해보자.
• 이 때 주어진 데이터를 가장 잘 설명할 수 있는 확률분포를 찾는 것이 MLE의 목표이다.

• 여러개의 정규분포를 가정했을 때 주어진 데이터를 가장 잘 설명하는 분포는 가장 가운데 있는 분포일 것이다.
• MLE 값도 제일 높을 것.
• 이렇게 주어진 데이터를 가장 잘 설명하는 분포를 찾는 것이 MLE이다.
• Negative log likelihood와 Cross-entropy Loss는 같다.