Rule extraction from trained neural network using NofM algorithm with improved clustering step

개선된 군집화 단계의 NofM 알고리즘을 이용한 훈련된 신경망으로부터의 규칙추출

  • Lee, Han-Yul (Interdisciplinary Program of Cognitive Science, Sungkyunkwan University) ;
  • Ra, Jong-Hei (Division of E-Business, Kwangju University) ;
  • Kim, Moon-Hyun (School of Electrical & Computer Engineering, Sungkyunkwan University)
  • 이한율 (성균관대학교 인지과학협동과정) ;
  • 나종회 (광주대학교 e-비지니스학부) ;
  • 김문현 (성균관대학교 전기전자컴퓨터공학부)
  • Published : 2001.10.12

Abstract

신경망이 만들어내는 출력에 대한 정보는 수치적으로 분산되어 신경망에 저장되므로, 인간이 직접 해석하기가 힘들다. 본 논문에서는 LRE(link rule extraction)기법인 NofM 알고리즘의 6단계 중에서 초기 단계인 가중치 군집화 단계를 개선하여 추출되는 규칙들의 전제부에 들어가는 규칙 조건들의 수를 조절함으로써, 추출된 규칙이 입력 특성에 대한 정보를 과잉 일반화하거나, 과잉 구체화하는 것을 피할 수 있음을 실험을 통해 보였다. 일반적으로 NofM 알고리즘에서 가중치들을 군집화한 때는 Join 알고리즘을 사용하는데, 본 논문에서는 Join 알고리즘의 Join condition을 0.05부터 0.25까지 0.05씩 점진적으로 확대하여 클러스터링을 하여줌으로써 신경망의 출력에 중요한 역할을 하는 가중치들을 효과적으로 군집화함을 보였다.

Keywords