Proceedings of the Korean Institute of Intelligent Systems Conference (한국지능시스템학회:학술대회논문집)
- 1998.10a
- /
- Pages.251-254
- /
- 1998
Acceleration of Learning speed Neural Networks by Reducing Weight Oscillations
가중치 진동의 감소를 이용한 신경회로망의 학습속도 향상
Abstract
본 논문에서는 신경회로망의 수렴속도를 높이기 위한 알고리즘을 제안한다. 전형적인 역전파 학습방식은 느린 수렴속도가 단점으로 제기되는데 이는 비용함수의 계곡부근에서 가중치의 궤적이 심한 진동현상을 보이기 때문이다. 이 문제를 해결하기 위해서 본 논문에서는 경사법에서 사용되는 갱신방향을 계곡의 진행방향을 이용하여 변경한다. 모의실험을 통하여 제안된 방법으로 가중치의 궤적에 나타나는 진동을 줄이고 수렴속도를 향상시킬 수 있음을 보인다.
Keywords