건희형이랑 같이 보자고 한 논문 정리 1. Information Geometry of Neural Networks Author : Shun-ichi Amari 논문 링크 : Information Geometry of Neural Networks 일단 이 논문은 2000년에 나온 아주 고전 중의 고전에 속하는 논문이다. 현재로서 이 논문에서 요약한...

우리는 통계학을 공부하다 보면 공분산을 만나게 된다. 랜덤 변수 $X$와 $Y$가 있고 그들의 평균이 $\mu_X$, $\mu_Y$일 때 공분산은 다음처럼 정의된다. [Cov(X,Y) = \mathbb{E}[(X-\mu_X)(Y-\mu_Y)]] 또한 이로부터 유도되는 상관계수 $Coef(X,Y)$는 다음처럼 정의됨을 알고 있다. [Coef(X,Y...