Dual Gradient Descent Algorithm On Two-Layered Feed-Forward Artificial Neural Networks

2개층 전방향 인공신경망에서의 이원적인 기울기 하강 알고리즘

멀티레벨의 feed-forward 네트워크에 대한 학습 방법은 기울기 방법과 전역 최적화방법으로 나눌 수 있다. 역전파 또는 그 변형적인 방법들과 같은 기울기 하강 방법은 편리하기 때문에 여러 분야에서 다양하게 사용되고 있다. 하지만, 역전파와 관련된 가장 큰 문제는 지역 최소점에 빠진다는 것이다. 따라서 본 논문에서 기울기 하강 방법의 단순성을 침범하지 않고 지역 최소점을 극복할 수 있는 개선된 기울기 하강 방법을 제안한다. 제안하는 방법은 상위 연결과 하위연결을 분리하여 훈련하고 평가하기 때문에 이원적인 기울기 하강 방법이라 칭한다. 그렇기 때문에, 은닉층 유닛의 목표 값들은 하위 연결의 평가 툴로써 사용한다. 논문에서 제안하는 방법의 성능은 다양한 실험을 통해서 검증된다.