Performance Improvement of Regression Neural Networks by Using PCA and Zero-Mean Normalization

영평균 정규화와 PCA를 이용한 회귀 신경망의 성능개선

  • Park, Yong-Soo (School of Computer and Information Comm. Eng., Catholic Univ. of Daegu) ;
  • Cho, Yong-Hyun (School of Computer and Information Comm. Eng., Catholic Univ. of Daegu)
  • 박용수 (대구가톨릭대학교 공과대학 컴퓨터정보통신공학부) ;
  • 조용현 (대구가톨릭대학교 공과대학 컴퓨터정보통신공학부)
  • Published : 2001.10.12

Abstract

본 논문에서는 전처리단계로 영평균 정규화 기법과 주요성분분석 기법을 도입하여 다층신경망을 이용한 고신뢰성의 회귀분석 모델을 제안한다. 영평균 정규화 기법은 데이터의 1차적 통계성을 고려하여 알고리즘을 간략화시키며, 주요성분분석 기법은 입력 데이터의 2차적 통계성을 고려하여 독립인 특징들의 집합으로 변환시켜 학습데이터의 차원을 감소시킬 수 있어 고차원의 학습데이터에 따른 회귀분석 모델의 제약을 해결할 수 있었다. 제안된 기법의 신경망을 3개의 독립변수를 가진 암모니아 제조공정문제와 10개의 독립변수를 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 단순정규화나 PCA를 적용하지 않는 경우보다 제안된 기법의 학습속도와 회귀성능이 더욱 더 우수함을 확인할 수 있었다.

Keywords