#4.1. Cross entropy와 KL divergence

Описание к видео #4.1. Cross entropy와 KL divergence

지난번 "Entropy" 영상 안보신 분은 그것부터 보시고요..(...)

보통 classification을 위해 모델을 학습시킬 때 MSE (제곱평균에러)보다는 cross entropy를 사용할 때가 많습니다. 왜그럴까요? 그냥 쓰라고해서 쓰는데... 저는 지금 뭘 하고 있는 걸까요...?ㅎㅎ

이번 영상에선 cross entropy의 의미와, 나아가 "거리 개념"으로 많이 쓰인다는 KL divergence에 대해서도 살짝 언급해 보았습니다. 이 모든게 information theory 안의 entropy 개념에서 파생된 것들이지요.

* 테리의 딥러닝 토크
[youtube]    • 테리의 딥러닝 토크  
[facebook]   / deeplearningtalk  

* 슬라이드 이미지는 t-robotics 블로그(t-robotics.blogspot.com)에서 보실 수 있습니다.

Комментарии

Информация по комментариям в разработке

Похожие видео