Journal of the Institute of Electronics Engineers of Korea CI (전자공학회논문지CI)

The Institute of Electronics and Information Engineers (대한전자공학회)
권호 표지

Multiclass-based AdaBoost Algorithm

다중 클래스 아다부스트 알고리즘

  • Received : 2010.12.05
  • Accepted : 2011.01.07
  • Published : 2011.01.25
Download PDF
⟨ Previous Next ⟩

Abstract

We propose a multi-class AdaBoost algorithm for en efficient classification of multi-class data in this paper. Traditional AdaBoost algorithm is basically a binary classifier and it has limitations when applied to multi-class data problems even though multi-class versions are available. In order to overcome the problems on the AdaBoost algorithm for multi-class classification problems, we devise an AdaBoost architecture with a training algorithm that utilizes multi-class classifiers for its weak classifiers instead of series of binary classifiers. Experiments on a image classification problem using collected Caltech Image Database are preformed. The results show that the proposed AdaBoost architecture can reduce its training time while maintaining its classification accuracy competitive when compared to Adaboost.M2.

본 논문은 다중 클래스 데이터의 효율적 분류를 위한 새로운 아다부스트 알고리즘을 제안한다. 기존의 아다부스트 알고리즘은 기본적으로 이진 분류기이므로 다중 클래스 데이터 분류의 적용에는 매우 제한적이었다. 이를 극복하기 위하여 제안된 알고리즘은 여러 개의 이진 분류기 대신 하나의 다중 분류기를 약 분류기로 사용함으로써 학습시간을 단축시키고 안정적인 정확도를 얻을 수 있는 장점이 있다. 제안하는 알고리즘의 성능을 평가하기 위하여 Caltech 영상 데이터베이스에서 4가지클래스의 영상 데이터를 총 800개 수집하여 영상 분류 실험을 진행하였다. 실험의 결과 제안된 다중 클래스 아다부스트 알고리즘은 Adaboost.M2 알고리즘에 비해 분류정확도는 대등한 결과를 얻었지만, 학습시간을 학습단계에 따라 83.1%까지 감소시킬 수 있었다.

Keywords

References

  1. G. Paschos, "Perceptually uniform color spaces for color texture analysis: an empirical evaluation", IEEE Transactions on Image Processing, V.10, No.6, pp.932-937, 2001 https://doi.org/10.1109/83.923289
  2. E.Y. Lam and J.W. Goodman, "A mathematical analysis of the DCT coefficient distributions for images", IEEE Trans. on Image Processing, V.9, No.10, pp.1661-1666, 2000 https://doi.org/10.1109/83.869177
  3. Zhi-Zhong Wang and Jun-Hai Yong, "Texture Analysis and Classification With Linear Regression Model Based on Wavelet Transform:, IEEE Trans. on Image Processing, V.17, No.8, pp.1421-1430, 2008 https://doi.org/10.1109/TIP.2008.926150
  4. Masi. S and Malik. J, "Object detection using a max-margin Hough transform", IEEE Computer Vision and Pattern Recognition, 2009
  5. 김재영, 박동철, "진보된 다단계 특징벡터 기반의 분류기 모델", 전자공학회논문지, 제47권 CI편, 제3호, 2010년 5월.
  6. Ying Shan, et al. "Unsupervised Learning of Discriminative Edge Measures for Vehicle Matching between Nonoverlapping Cameras", IEEE, Trans, Pattern Analysis and Machine Intelligence, V.30, pp. 700-711, 2008 https://doi.org/10.1109/TPAMI.2007.70728
  7. P. Viola, M. Jones, "Rapid object detection using a boosted cascade of simple features," Proc. of IEEE ICCVPR, V.1, pp. 511-518, 2001.
  8. 윤창용, 장석윤, 박민용, "수직면과 아다부스트를 사용한 실시간 교통 표지판 검출", 전자공학회논문지, 제46권 SC편, 제5호, 29-37쪽, 2009년 9월.
  9. 김재협, 장경현, 이준행, 문영식, "아이다부스트와 원형기반함수를 이용한 다중표적 분류 기법", 전자공학회논문지, 제47권 CI편, 제3호, 2010년 5월.
  10. T. Kohonen, "The Self-Organizing Map", Proc. IEEE, V.78, pp 1464-1480. 1990
  11. D.C Park, "Centroid Neural Network for Unsupervised Competitive Learning", IEEE Trans. Neural Networks, V.11, pp 520-528. 2000 https://doi.org/10.1109/72.839021
  12. D.C Park et al., "Centroid Neural Network with a Divergence Measure for GPDF Data Clustering", IEEE Trans. Neural Networks, V.19, NO. 6, pp 948-957. 2008 https://doi.org/10.1109/TNN.2007.2000051
  13. Y. Freund and R.E. Schapire, "A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting", LNCS, V.904, pp. 23-37, 1995
  14. R. Schapire, "Using output codes to boost multiclass learning problems", Proc. ICML, 1997.