機器學習理論:從資訊理論角度理解Entropy、Cross Entropy、KL Divergence

Описание к видео 機器學習理論:從資訊理論角度理解Entropy、Cross Entropy、KL Divergence

這影片中我們從資訊傳遞的角度來理解Entropy、Cross Entropy,及KL Divergence的意義。
以上內容為在參考許多文章影片後我理解的結果,若有理解錯誤歡迎指正,請多指教!
Slides: https://docs.google.com/presentation/...

0:00 Intro
0:17 Entropy概念、例子
8:05 Cross Entropy
12:36 KL Divergence
16:11 為何分類用Cross Entropy而不是KL Divergence
18:06 Ending: summary, reference

Комментарии

Информация по комментариям в разработке