Keras
Keras공부 : 가중치 초기화
이부일
2017. 12. 25. 12:24
각 뉴런은 특정한 가중치로 초기화할 수 있다.
케라스는 몇 가지 선택 사항을 제공하며, 일반적으로 사용하는 것은 다음과 같다.
1. kernel_initializer = "random_uniform" : 가중치는 -0.05 ~ 0.05로 균등하게 작은 임의의 값으로 초기화한다.
2. kernel_initializer = "random_normal" : 가중치는 평균이 0이고, 표준편차가 0.05로 정규분포에 따라 초기화한다.
3. kernel_initializer = "zero" : 모든 가중치를 0으로 초기화한다.
전체 목록은 https://keras.io/initializers/ 에서 확인할 수 있다.
[출처] 케라스로 구현하는 딥러닝과 강화학습, 안토니오 걸리/수짓팔 지음, 김창엽 옮김, 에이콘, p32