제어상자를 이용한 단순 신경망의 개선된 학습과정

An Improved Learning Process of Simple Neural Networks using the Controller Box

  • 윤여창 (우석대학교 전산통계학과)
  • 발행 : 2001.04.01

초록

본 연구에서는 시계열자료를 예측하기 위해 적용한 n$\times$n$\times$1 신경망 구조에서 초기값의 시각적인 선택을 통한 개선된 학습과정을 제안한다. 적용된 Easton[1]의 제어상자는 시각적인 면과 실용적인 적용측면에서 다차원 구조를 논의하기에는 제한적이지만, 적은 개수의 은닉노드를 갖는 단순한 신경망구조에서는 초기 가중값들의 동적인 선택을 통하여 가능한 빨리 효과적인 학습이 이루어질 수 있게 할 수 있다. 신경망 학습의 오차 판단기준은 기존의 평균제곱오차(MSE)를 고려한다. 실증연구에는 모의생성된 ARMA(1,0) 자료와 담배생산량 자료를 이용한다.

키워드

참고문헌

  1. G.S.Easton, 'A Simple Dynamic Graphical Diagnostic Method for Almost Any Model,' Journal of the American Statistical Association, 89, pp. 201-207, 1994 https://doi.org/10.2307/2291216
  2. A.Lewbel, 'Comments on Artificial Neural Networks : An Econometric Perspective,' Econometric Reviews, 13(1), pp. 99-103, 1994 https://doi.org/10.1080/07474939408800275
  3. B.D.Riply, 'Neural Networks and Related Methods for Classification,' Journal of Royal Statistical Society, B, 56(3), pp. 409-456, 1994
  4. H.Kushner, 'Asymptotic Global Behaviour for Stochastic Approximation and Diffusions with Slowly Decreasing Noise Effects: Glogal Minimization via Monte Carlo,' SIAM Journal of Control Optimization, 47, pp. 169-185, 1987 https://doi.org/10.1137/0147010
  5. H.White, 'Learning in Artificial Neural Networks : A Statistical Perspective,' Neural Computation, 1, pp. 425-464, 1988
  6. M.Smith, 'Neural Networks for Statistical Modeling,' New York, Van Nostrand Reinhold, 1993
  7. A.P.Russo, 'Neural Networks for Sonar Signal Processing,' IEEE Conference on Neural Networks for Ocean Engineering, Tutorial Nn. 8, 1991
  8. S.Haykin, 'Neural Networks: A Comprehensive Foundation,' Macmillan/IEEE Press, 1994
  9. W.W.S.Wei, 'Time Series Analysis : Univariate and Multivariate Methods,' Addison-Wesley Publishing Co. 1990
  10. G.E.P. Box, G.M. Jenkins, 'Time Series Analysis: Forecasting and Control,' Holden-Day, 1976
  11. 윤여창, '시계열자료에서 신경망이론의 적용', 성균관대학교 박사학위논문, 1995
  12. 윤여창, 허문열, 'Neural Network을 응용한 Time Series', 통계와 신경망, 한국과학기술원 인공지능연구센타/한국정보과학회 뉴로컴퓨팅연구회/한국통계학회통계계산연구회주최 공동워크샵, 연세대학교 소프트웨어 응용연구소 주관, pp. 49-69, 1996
  13. H.Tong, 'Non-linear Time Series: A Dynamical System Approach.' Oxford, Clarendon press, 1990