RBM 선행학습을 이용한 개선 MLP 학습에 관한 연구

A Study on Modified MLP Learning using Pretrained RBM

MLP(Multi-Layer Perceptron)를 이용한 학습은 간단한 구조에도 비선형 분류가 가능하다는 장점을 가지고 있다. 하지만 오류역전파 알고리즘을 사용함으로써 시간의 소모가 크고 원치 않는 결과값으로의 수렴가능성을 배제할 수 없다는 단점을 가지고 있다. 이는 초기설정의 의존도가 높기 때문에 발생하는 문제들로 좋은 결과값에 근접한 곳으로 초기화가 이루어지면 좋은 학습 성능을 보이지만 반대로 좋은 결과값으로부터 멀리 떨어진 곳으로 신경망의 초기화가 이루어지면 학습 성능이 현저히 낮아지는 현상을 보인다. 본 논문에서는 MLP 전체의 층을 대상으로 하는 본 학습이 이루어지기 전에 RBM(Restricted Boltzmann Machine)을 이용, 층간 선행학습을 행하고 그 결과로 얻어지는 가중치와 바이어스를 본 MLP 학습의 초기화 데이터로 사용하는 개선 MLP 학습 알고리즘을 제안한다. 이 방법을 사용함으로써 MLP 학습 속도향상은 물론 원치 않는 지역해로의 수렴까지 방지할 수 있어 전체적인 학습 성능향상이 가능하게 된다.