Optimal Structure of Modular Wavelet Network Using Genetic Algorithm

유전 알고리즘을 이용한 모듈라 웨이블릿 신경망의 최적 구조 설계

  • Seo, Jae-Yong (School of Information Technology at Korea Univ. of Tech. and Edu.) ;
  • Cho, Hyun-Chan (School of Information Technology at Korea Univ. of Tech. and Edu.) ;
  • Kim, Yong-Taek (School of Electrical and Electronics Eng. at Chung-Ang Univ.) ;
  • Jeon, Hong-Tae (School of Electrical and Electronics Eng. at Chung-Ang Univ.)
  • 서재용 (한국기술교육대학교 정보기술공학부) ;
  • 조현찬 (한국기술교육대학교 정보기술공학부) ;
  • 김용택 (중앙대학교 전자전기공학부) ;
  • 전홍태 (중앙대학교 전자전기공학부)
  • Published : 2001.10.30

Abstract

Modular wavelet neural network combining wavelet theory and modular concept based on single layer neural network have been proposed as an alternative to conventional wavelet neural network and kind of modular network. In this paper, an effective method to construct an optimal modular wavelet network is proposed using genetic algorithm. Genetic Algorithm is used to determine dilations and translations of wavelet basis functions of wavelet neural network in each module. We apply the proposed algorithm to approximation problem and evaluate the effectiveness of the proposed system and algorithm.

단일 신경망에 기반한 웨이블릿 이론과 모듈라 개념을 결합하여 기존의 웨이블릿 신경망이나 모듈라 네트워크의 일종인 모듈라 웨이블릿 신경망이 제안되었다. 본 논문에서는 유전 알고리즘을 사용하여 모듈라 웨이블릿 신경망의 최적구조를 효과적으로 설계하는 방법을 제시하였다. 각 모듈을 구성하는 웨이블릿 신경망의 웨이블릿 기저함수의 팽창과 이동계수를 결장하기 위해 유전 알고리즘을 사용하였다. 제안한 최적 구조 설계 알고리즘을 근사화 문제에 적용하여 우수성을 검증하였다.

Keywords

References

  1. R. A. Jacobs, M. I. Jordan, S, J. Nowlan, and G. E. Hinton, 'Adaptive Mixtures of Local Experts,' Neural Computation, Vol. 6., pp.181-214, 1994
  2. Michael I. Jordan and Robert A. Jacobs, 'Hierarchical Mixtures of Experts and the EM Algorithm,' Neural Computation; Vol. 6, No. I, pp.181-214, 1994
  3. Jacobs R. A. and Jordan M. I., 'Learning Piecewise Control Strategies in a Modular Neural Network Architecture,' IEEE Trans. Sys. Man and Cybernetics, Vol. 23, No.2, pp. 337-345, 1993 https://doi.org/10.1109/21.229447
  4. Gasser Auda and Mohamed Kamel, 'Modular Neural Network Classifiers: A Comparative Study,' Journal of Intelligent and Robotic Systems, Vol. 21, pp.117-129, 1998 https://doi.org/10.1023/A:1007925203918
  5. Q. Zhang and A. Benveniste, 'Wavelet networks,' IEEE Trans. on Neural Networks, vol. 3, pp.889-898, 1992 https://doi.org/10.1109/72.165591
  6. J. Zhang, G. G. Walter, Y. Miao and W. N. W. Lee, 'Wavelet neural networks for function learning,' IEEE Trans. Signal Processing, vol. 43, pp.1485-1497, 1995 https://doi.org/10.1109/78.388860
  7. 서재용, 김용택, 조현찬, 전홍태, '시간-주파수 분석을 이용한 모듈라 웨이블렛 신경망의 최적 구조 설계,' 대한전자공학회 논문지, 제38권, SC편, 제2호, pp.12-19, 2001
  8. Martin Vetterli and Jelena Kovaccvic, Wavelets and Subband Coding, Prentice Hall, 1995
  9. C. S. Burrus, R. A. Gopinath, and Il Guo, Introduction to Wavelets and Wavelet Transforms, Upper Saddle River, NT Prentice-Hall, 1998
  10. David E.Goldberg, Genetic Algorithms in Search, Optimization, and Machine Learning. Addison-Wesley Publishing, 1989
  11. L. Davis, Handbook of Genetic Algorithm, Van Nostrand Reinhold, 1991
  12. 서승진, 서재용, 원경재, 연정흠, 전흥태, '비선형 시스템의 안정한 직접 적용 제어를 위한 웨이블 렛 신경회로망' 대한전자공학회 논문지, 제38권 S편, 10호 pp.51-57, 1999