Improvement Regression Rate of Kernel Relaxation using the Dynamic Momentum

동적모멘트를 이용한 Kernel Relaxation의 회귀율 향상

  • 김은미 (전남대학교 컴퓨터공학과) ;
  • 양창호 (전남대학교 컴퓨터공학과) ;
  • 이배호 (전남대학교 컴퓨터공학과)
  • Published : 2002.10.01

Abstract

본 논문에서는 학습 중 모멘트를 동적으로 조절하여 수련속도와 학습 성능을 향상시키는 동적모멘트를 제안하고 회귀방법으로 동적모멘트의 성능을 재확인한다. 제안된 학습방법은 기존의 정적모멘트와는 달리 수렴 정도에 따라 현재의 학습에 과거의 학습률을 단리 반영하는 방법으로 다른 학습법에 비해 보다 유연한 초평면을 갖으며 수렴에 이르는 시간이 오래 걸리는 KR(Kernel Relaxation)에 적용하여 그 성능을 확인한다. 본 논문에서 사용한 회귀방법은 RMS 오류율을 사용하였으며 제안된 학습방법인 동적모멘트를 SVM(support vector machine)의 순차 학습방법 중 최근 발표된 KR에 적용하여 RMS 오류율을 확인하였다. 실험의 공정성을 위해 신경망 분류기 표준평가데이터인 SONAR 데이터를 사용하였으며 실험 결과 동적모멘트를 이용한 회귀율이 정적모멘트를 이용한 방법보다 향상되었음을 확인하였다.

Keywords