가중치의 초깃값

가중치는 

0.01*np.rnadom,randn(10,100)    =>표준편차가 0.01인 정규분포

처럼 랜덤한 값을 해야한다

이유 : 오차역전파법을 잘 활용하기 위해

가중치의 추천 초기값

sigmoid, tahnh

n개라면 표준편차가 (1/n)^1/2   인 분포를 사용하는걸 추천

relu

n개라면 표준편차가 (2/n)^1/2 인 분포를 사용하는걸 추천(He 초깃값이라고 함)