Abstract
This paper proposes a new method of the structure pruning of dynamic recurrent neural networks (DRNN) using evolutionary computations. In general, evolutionary computations are population-based search methods, therefore it is very useful when several different properties of neural networks need to be optimized. In order to prune the structure of the DRNN in this paper, we used the evolutionary programming that searches the structure and weight of the DRNN and evolution strategies which train the weight of neuron and pruned the net structure. An addition or elimination of the hidden-layer's node of the DRNN is decided by mutation probability. Its strategy is as follows, the node which has mhnimum sum of input weights is eliminated and a node is added by predesignated probability function. In this case, the weight is connected to the other nodes according to the probability in all cases which can in- 11:ract to the other nodes. The proposed pruning scheme is exemplified on the stabilization and position control of the inverted-pendulum system and visual servoing of a robot manipulator and the effc: ctiveness of the proposed method is demonstrated by numerical simulations.
본 논문에서는 진화연산을 이용하여 동적 귀환 신경망의 구조를 저차원화하는 방법을 제안한다. 일반적으로 진화연산을 개체군을 이용한 탐색 방법으로서 신경회로망의 여러 가지 다른 성질을 동시에 최적화할 필요가 있을 때 유용한 방법이다. 본 연구에서는 동적 귀환 신경망의 구조를 조차원화하기 위하여 진화 프로그래밍으로 신경망의 구조를 탐색하고, 진화전략으로 신경망의 연결강도를 학습시킴으로서 전체적인 구조를 저차원화하였다.신경망의 중간층 노드의 추가/삭제는 돌연변이 확률에 의하여 결정한다. 노드를 삭제할 경우에는 입력 연결강도의 총합이 가장 작은 노드를 삭제하고, 노드를 추가할 경우에는 미리 지정한 확률함스에 따라 노드를 추가한다. 그리고 추가된 노드와 다른 노드와의 연결방법은 서로 영향을 미칠 수 있는 모든 연결강도 중에서 확률적으로 선택하여 연결하였다. 마지막으로 제안한 저차원화 동적 귀환 신경망이 완전 연결된 신경망보다 더 좋은 성능을 얻을 수 있음을 예제로서 본 논문에서는 도립진자의 안정화 및 제어와 로봇 매니퓰레이터의 비주얼 서보잉에 적용하여 컴퓨터 시뮬레이션을 통하여 그 유효성을 확인한다.