On Optimizing Dissimilarity-Based Classifications Using a DTW and Fusion Strategies

DTW와 퓨전기법을 이용한 비유사도 기반 분류법의 최적화

  • Kim, Sang-Woon (Department of Computer Engineering, Myongji University) ;
  • Kim, Seung-Hwan (Department of Computer Engineering, Myongji University)
  • 김상운 (명지대학교 컴퓨터공학과) ;
  • 김승환 (명지대학교 컴퓨터공학과)
  • Published : 2010.03.25

Abstract

This paper reports an experimental result on optimizing dissimilarity-based classification(DBC) by simultaneously using a dynamic time warping(DTW) and a multiple fusion strategy(MFS). DBC is a way of defining classifiers among classes; they are not based on the feature measurements of individual samples, but rather on a suitable dissimilarity measure among the samples. In DTW, the dissimilarity is measured in two steps: first, we adjust the object samples by finding the best warping path with a correlation coefficient-based DTW technique. We then compute the dissimilarity distance between the adjusted objects with conventional measures. In MFS, fusion strategies are repeatedly used in generating dissimilarity matrices as well as in designing classifiers: we first combine the dissimilarity matrices obtained with the DTW technique to a new matrix. After training some base classifiers in the new matrix, we again combine the results of the base classifiers. Our experimental results for well-known benchmark databases demonstrate that the proposed mechanism achieves further improved results in terms of classification accuracy compared with the previous approaches. From this consideration, the method could also be applied to other high-dimensional tasks, such as multimedia information retrieval.

본 논문에서는 동적시간교정법(dynamic time warping: DTW)과 다중퓨전기법(multiple fusion strategy: MFS)을 연속 적용하여 비유사도기반 분류법(dissimilarity-based classification: DBC)을 최적화시키는 방법의 실험결과를 보고한다. DBC란 샘플패턴을 분류하기 위하여 샘플의 특징 값을 이용하는 대신에 샘플들 사이의 비유사도를 측정하여 분류기를 설계하는 방법이다. DTW에서는 다음과 같이 두 단계로 나누어 비유사도를 측정한다. 먼저 상관계수를 이용하여 객체 샘플들을 대응시키기 위한 최적의 대응경로를 찾을 수 있도록 샘플들을 조정한다. 그리고 기존의 거리측정법으로 조정된 샘플들 사이의 비유사도를 측정한다. MFS에서는 분류기결합 뿐만 아니라 비유사도 행렬생성에서도 퓨전기법을 적용한다. 즉, DTW 기법으로 작성한 다수의 비유사도 행렬들을 결합하여 새로운 비유사도 행렬을 생성한 다음, 이 행렬공간에서 여러 개의 베이스 분류기를 학습하여 다시 결합한다. 본 논문에서 제안한 방법을 벤취마크 영상 데이터베이스를 대상으로 실험한 결과, 기존의 방법과 비교하여 분류성능을 향상시킬 수 있음을 확인하였다. 이와 같은 실험결과로 볼 때, 제안 방법을 멀티미디어 정보검색 등과 같은 다른 고차원 응용에도 활용할 수 있을 것으로 사료된다.

Keywords

References

  1. K. Fukunaga, Introduction to Statistical Pattern Recognition, Second Edition, Academic Press, San Diego, 1990.
  2. J. Ye, R. Janardan, C. H. Park and H. Park, "An optimization criterion for generalized discriminant analysis on undersampled problems," IEEE Trans. Pattern Anal. and Machine Intell., vol. 26, no. 8, pp. 982-994, 2004. https://doi.org/10.1109/TPAMI.2004.37
  3. E. Pekalska and R. P. W. Duin, The Dissimilarity Representation for Pattern Recognition: Foundations and Applications, World Scientific Publishing, Singapore, 2005.
  4. S. -W. Kim, "On solving the small sample size problem using a dissimilarity representation for face recognition," in Proc. of Advanced Concepts for Intelligent Vision Systems, Antwerp, Belgium, vol. LNCS-4179, pp. 1174-1185, 2006.
  5. S. -W. Kim and J. Gao, "A dynamic programming technique for optimizing dissimilarity-based classifiers," in Proc. of Joint IAPR International Workshops SSPR2008 and SPR2008 (SS+SPR2008), Orlando, USA, vol. LNCS-5342, pp. 664-673, 2008.
  6. 김상운, 로버트 듀인, "다단계 퓨전기법을 이용한 비유사도 기반 식별기의 최적화," 대한전자공학회논문지, 제45권 CI편, 제5호, 15-24쪽, 2008년 9월
  7. Y. Adini, Y. Moses, and S. Ullman, "Face recognition: the problem of compensating for changes in illumination direction," IEEE Trans. Pattern Anal. and Machine Intell., vol. 19, no. 7, pp. 721-732, 1997. https://doi.org/10.1109/34.598229
  8. A. L. Ratan, W. E. L. Grimson, and W. M. Wells III, "Object detection and localization by dynamic template warping," Int'l Journal of Computer Vision, vol. 36, no. 2, pp. 131-147, 2000. https://doi.org/10.1023/A:1008147915077
  9. H. Sahbi and N. Boujemaa, "Robust face recognition using dynamic space warping," in Proc. of Biometric Authentication, vol. LNCS-2359, pp. 121-132, 2002.
  10. L. I. Kuncheva, Combining Pattern Classifiers - Methods and Algorithms, John Wiley & Sons, New Jersey, 2004.
  11. S. -W. Kim and B. J. Oommen, "On using prototype reduction schemes to optimize dissimilarity-based classification," Pattern Recognition, vol. 40, pp. 2946-2957, 2007. https://doi.org/10.1016/j.patcog.2007.03.006
  12. J. Kim and J. A. Fessler, "Intensity-based image registration using robust correlation coefficients," IEEE Trans. Medical Imaging, vol. 23, no. 1, pp. 1430-1444, 2004. https://doi.org/10.1109/TMI.2004.835313
  13. R. P. W. Duin, E. Pekalska, A. Harol, W. -J. Lee, and H. Bunke, "On Euclidean corrections for non-Euclidean dissimilarities," in Proc. of Joint IAPR International Workshops SSPR2008 and SPR2008 (SS+SPR2008), Orlando, USA, vol. LNCS-5342, pp. 664-673, 2008.