Keras

Keras공부 : 가중치 초기화

이부일 2017. 12. 25. 12:24


각 뉴런은 특정한 가중치로 초기화할 수 있다.

케라스는 몇 가지 선택 사항을 제공하며, 일반적으로 사용하는 것은 다음과 같다.


1. kernel_initializer = "random_uniform" : 가중치는 -0.05 ~ 0.05로 균등하게 작은 임의의 값으로 초기화한다.

2. kernel_initializer = "random_normal" : 가중치는 평균이 0이고, 표준편차가 0.05로 정규분포에 따라 초기화한다.

3. kernel_initializer = "zero" : 모든 가중치를 0으로 초기화한다.


전체 목록은 https://keras.io/initializers/ 에서 확인할 수 있다.


[출처] 케라스로 구현하는 딥러닝과 강화학습, 안토니오 걸리/수짓팔 지음, 김창엽 옮김, 에이콘, p32