The Korean Journal of Applied Statistics (응용통계연구)

The Korean Statistical Society (한국통계학회)
권호 표지
DOI QR코드

DOI QR Code

Bayesian Learning for Self Organizing Maps

자기조직화 지도를 위한 베이지안 학습

  • Published : 2002.09.01
Download PDF
⟨ Previous Next ⟩

Abstract

Self Organizing Maps(SOM) by Kohonen is very fast algorithm in neural networks. But it doesn't show sure rules of training results. In this paper, we introduce to Bayesian Learning for Self Organizing Maps(BLSOM) which combines self organizing maps with Bayesian learning. So it supports explanatory power of models and improves prediction. BLSOM has global optima anywhere but SOM has not. This is proved by experiment in this paper.

Kohonen이 제안한 자기조직화 지도(Self Organizing Maps : SOM)는 매우 빠른 신경망 모형이다. 하지만 다른 신경망 모형과 마찬가지로 학습 결과에 대한 명확한 규칙을 제시하지 못할 뿐만 아니라 지역적 최적값으로 빠지는 경우가 종종 있다. 본 논문에서는 이러한 자기조직화 지도의 모형에 대한 설명력을 부여하고 전역 최적값으로 수렴할 수 있는 예측 성능을 갖는 모형으로서 자율학습 신경망에 베이지안 추론을 결합한 자기조직화 지도를 위한 베이지안 학습(Bayesian Learning for Self Organizing Maps ; BLSOM)을 제안한다. 이 방법은 기존의 자기조직화 지도가 지역적 해에 머물러 있는 것에 비해서 언제든지 전역적 해로 수렴함이 실험을 통하여 밝혀졌다.

Keywords

References

  1. Neural Networks for Pattern Recognition Bishop, C. M.
  2. Proceedings 1996 International Conference on Artificial Neural Networks, ICANN 96 v.1112 GTM : a Principled Alternative to the Self Organizing Map Bishop, C. M.;Svensen, M.;Williams, C. K. I.
  3. Bayesian Data Analysis Gelman, A.;Carlin, J. B.;Stern, H. S.;Rubin, D. B.
  4. Adaptive Thinking rationality in the real world Gerd Gigerenzer
  5. Neural Networks v.8 Convergence results for the EM approach to mixture of expert architectures Jordan M. I.;Xu L. https://doi.org/10.1016/0893-6080(95)00014-3
  6. Self Organizing Maps Kohonen;Teuvo
  7. Bayesian Learning for Neural Networks Neal, R. M.
  8. Artificial Intelligence : A New Synthesis Nils J. Nilsson
  9. Pattern Recognition with Neural Networks in C++ Pandya, A. S.;Robert B. Macy
  10. Pattern Recognition and Neural Networks Ripley, B. D.
  11. Tools for Statistical inference Tanner, Martin A.
  12. Network: Computational in Neural Systems v.7 no.4 Topological selecton for self-organizing maps Utsugi A. https://doi.org/10.1088/0954-898X/7/4/007
  13. Neural Computation v.9 no.3 Hyperparameter selection for self-organizing maps Utsugi A. https://doi.org/10.1162/neco.1997.9.3.623
  14. Neural Computation v.2 Generalized deformable models, statistical physics and matching problems Yuille, A. L. https://doi.org/10.1162/neco.1990.2.1.1

Cited by

  1. Principal Components Self-Organizing Map PC-SOM vol.16, pp.2, 2003, https://doi.org/10.5351/KJAS.2003.16.2.321
  2. Validity Study of Kohonen Self-Organizing Maps vol.10, pp.2, 2003, https://doi.org/10.5351/CKSS.2003.10.2.507