Abstract
Pseudo sample neural network (PSNN) is a variant of traditional neural network using pseudo samples to mitigate the local-optima-convergence problem when the size of training samples is small. PSNN can take advantage of the smoothed solution space through the use of pseudo samples. PSNN has a focus on the quantity problem in training, whereas, methods stressing the quality of training samples is presented in this paper to improve further the performance of PSNN. It is evident that typical samples and highly correlated features help in training. In this paper, therefore, kernel density estimation is used to select typical samples and correlation factor is introduced to select features, which can improve the performance of PSNN. Debris flow data set is used to demonstrate the usefulness of the proposed methods.
의사 샘플 신경망은 학습 샘플의 수가 적은 경우 학습된 신경망이 국부 최적해에 빠져 성능이 저하되는 것을 보완하기 위해 기존 샘플들로부터 의사 샘플을 생성하고 이를 통해 해공간을 평탄화 시킴으로써 학습된 신경망의 성능을 향상시킬 수 있는 신경망의 변형이다. 이는 학습 샘플의 양에 관한 문제로 이 논문에서는 이에 더해 학습 샘플의 질을 향상시킴으로써 학습된 신경망의 성능을 더욱 높일 수 있는 방법을 제시하였다. 잡음이 적게 포함된 전형적인 학습 샘플들만이 주어지고 입력 특징 중 출력과 연관성이 높은 특징만을 사용함으로써 학습된 신경망의 성능을 높일 수 있음은 자명하다. 따라서 이 논문에서는 커널밀도 추정을 통해 비전형적인 학습샘플을 제거하고 입력값이 출력값에 미치는 영향을 나타내는 연관성 척도를 사용하여 연관성이 적은 특징을 제거함으로써 의사 샘플 신경망의 성능을 향상시킬 수 있음을 보였다. 제시한 방법의 유효성은 토석류 데이터를 이용한 실험을 통해 확인할 수 있다.
