A Combined Method of Rule Induction Learning and Instance-Based Learning

귀납법칙 학습과 개체위주 학습의 결합방법

  • Published : 1997.09.01

Abstract

While most machine learning research has been primarily concerned with the development of systems that implement one type of learning strategy, we use a multistrategy approach which integrates rule induction learning and instance-based learning, and show how this marriage allows for overall better performance. In the rule induction learning phase, we derive an entropy function, based on Hellinger divergence, which can measure the amount of information each inductive rule contains, and show how well the Hellinger divergence measures the importance of each rule. We also propose some heuristics to reduce the computational complexity by analyzing the characteristics of the Hellinger measure. In the instance-based learning phase, we improve the current instance-based learning method in a number of ways. The system has been implemented and tested on a number of well-known machine learning data sets. The performance of the system has been compared with that of other classification learning technique.

대부분의 기계학습 방법들은 특정한 방법을 중심으로 연구되어 왔다. 하지만 두 가지 이상의 기계학습방법을 효과적으로 통합할 수 있는 방법에 대한 요구가 증가하며, 이에 따라 본 논문은 귀납법칙 (rule induction) 방법과 개체위주 학습방법 (instance-based learning)을 통합하는 시스템의 개발을 제시한다. 귀납법칙 단계에서는 엔트로피 함수의 일종인 Hellinger 변량을 사용하여 귀납법칙을 자동 생성하는 방법을 보이고, 개체위주 학습방법에서는 기존의 알고리즘의 단점을 보완한 새로운 개체위주 학습방법을 제시한다. 개발된 시스템은 여러 종류의 데이터에 의해 실험되었으며 다른 기계학습 방법과 비교되었다.

Keywords