The Journal of the Korea Contents Association (한국콘텐츠학회논문지)

The Korea Contents Association (한국콘텐츠학회)
권호 표지
DOI QR코드

DOI QR Code

Fast Search Algorithm for Determining the Optimal Number of Clusters using Cluster Validity Index

클러스터 타당성 평가기준을 이용한 최적의 클러스터 수 결정을 위한 고속 탐색 알고리즘

  • 이상욱 (목원대학교 정보통신공학과)
  • Published : 2009.09.28
Download PDF
⟨ Previous Next ⟩

Abstract

A fast and efficient search algorithm to determine an optimal number of clusters in clustering algorithms is presented. The method is based on cluster validity index which is a measure for clustering optimality. As the clustering procedure progresses and reaches an optimal cluster configuration, the cluster validity index is expected to be minimized or maximized. In this Paper, a fast non-exhaustive search method for finding the optimal number of clusters is designed and shown to work well in clustering. The proposed algorithm is implemented with the k-mean++ algorithm as underlying clustering techniques using CB and PBM as a cluster validity index. Experimental results show that the proposed method provides the computation time efficiency without loss of accuracy on several artificial and real-life data sets.

클러스터링 알고리즘에서 최적의 클러스터 수를 결정하기 위한 효율적인 고속 탐색 알고리즘을 소개한다. 제안하는 방법은 클러스터링 적합도의 척도로 사용되는 클러스터 타당성 평가기준을 토대로 한다. 데이터 집합에 클러스터링 프로세스를 진행하여 최적의 클러스터 형상에 도달하게 되면 클러스터 타당성 평가기준은 최대 혹은 최소값을 가질 것으로 기대한다. 본 논문에서는 최적의 클러스터 개수를 찾기 위한 고속의 비소모적 탐색 방법을 설계하고 실제 클러스터링과 접목한다. 제안하는 알고리즘은 k-means++ 클러스터링 알고리즘에 적용하였고, 클러스터 타당성 평가기준으로써 CB 및 PBM 타당성 평가기준 방법을 사용하였다. 몇몇의 가상 데이터 집합과 실제 데이터 집합에 실험한 결과, 제안하는 방법은 정확도의 손실 없이 계산 효율을 획기적으로 증가시킴을 보여주었다.

Keywords

References

  1. B. Everitt, S. Landau, and M. Less, Cluster Analysis, Arnold, London, 2001.
  2. V. Cherkassky and F. Mulier, Learning from Data: Concepts, Theory, and Methods, Wiley, New York, 1998.
  3. U. M. Fayyad, G. Piatetsky-Shapiro, and P. Smyth, From Data Mining to Knowledge Discovery: An Overview, The MIT Press, 1996.
  4. T. Ishioka, "An expansion of x-means for automatically determining the optimal number of clusters," In proceedings of fourth IASTED international conference, pp.91-96, 2005. https://doi.org/10.1.1.115.597
  5. R. Dubes, "Cluster analysis and related issue,"In handbook of pattern recognition and computer vision, pp.3-32, World Scientific, 1993.
  6. A. K. Jain, M. N. Murty, and P. J. Flynn, "Data Clustering: a review," ACM Computing Surveys, Vol.31, No.3, pp.264-323, 1999. https://doi.org/10.1145/331499.331504
  7. M. R. Anderberg, Cluster Analysis for Applications, Academic Press, New York, 1973.
  8. R. Dubes, "How many clusters are best? - an Experiment," Pattern Recognition, Vol.20, No.6,pp.645-663, 1987. https://doi.org/10.1016/0031-3203(87)90034-3
  9. M. K. Pakhira, S. Bandyopadhyay, and U. Maulik, "Validity index for crisp and fuzzy clusters," Pattern Recognition, Vol.37, pp.487-501, 2004. https://doi.org/10.1016/j.patcog.2003.06.005
  10. Y. Jung, H. Park, D. Du, and B. L. Drake, "A decision criterion for the optimal number of clusters in hierarchical clustering," Journal of Global Optimization, Vol.25, pp.91-111, 2003. https://doi.org/10.1023/A:1021394316112
  11. Y. R. Pal and J. C. Bezdek, "On cluster validity for the fuzzy c-means model," IEEE Trans.Fuzzy Systems, Vol.3, No.3, pp.370-379, 1995. https://doi.org/10.1109/91.413225
  12. 류정우, 강명구, 김명원, "휴리스틱 진화에 기반한 효율적인 클러스터러링 알고리즘", 한국정보과학회논문지: 소프트웨어 및 응용, 제29권, 제2호, pp.80-90, 2002.
  13. D. Arthur and S. Vassilvitskii, "$k-means^{++}$:the advantages of careful seeding," In 2007 Symposium on Discrete Algorithms, 2007.
  14. http://archive.ics.uci.edu/ml/