Journal of the Korean Data and Information Science Society

The Korean Data and Information Science Society (한국데이터정보과학회)
권호 표지

A Classification Analysis using Bayesian Neural Network

베이지안 신경망을 이용한 분류분석

  • Published : 2001.10.30
Download PDF
⟨ Previous Next ⟩

Abstract

There are several algorithms for classification in modeling relations, patterns, and rules which exist in data. We learn to classify objects on the basis of instances presented to us, not by being given a set of classification rules. The Bayesian learning uses the probability distribution to express our knowledge about unknown parameters and update our knowledge by the law of probability as the evidence gathered from data. Also, the neural network models are designed for predicting an unknown category or quantity on the basis of known attributes by training. In this paper, we compare the misclassification error rates of Bayesian Neural Network method with those of other classification algorithms, CHAID, CART, and QUBST using several data sets.

자료들 사이에 존재하는 관계, 패턴, 규칙등을 찾아내서 모형화 하는 통계적인 분류기법은 여러가지가 있다. 그러나 우리가 얻게 되는 지식은 어떤 일련의 분류규칙에 의해서가 아닌 관찰과 학습을 통한 훈련으로부터 얻게 된다. 본 베이지안 학습은 모든 형태의 불확실성을 표현하는 확률로써 우리의 믿음의 정도를 표현하는 것으로 해석될 수 있으며, 확실한 결과가 알려짐에 따라 확률이론 법칙을 사용하여 이러한 확률들을 갱신한다. 또한 신경망 모형은 이미 알고 있는 속성들에 근거하여 아직 알지 못하는 집단이나 특질들을 예측하게 해준다. 본 논문에서는 이러한 두 가지 방법을 결합한 베이지안 신경망과 기존의 CHAID, CART, QUBST 분류 알고리즘에 있어서 각각 오분류율을 비교연구하였다.

Keywords

References

  1. Neural Networks for Pattern Recognition Bishop, C. M.
  2. Classification and Regression Trees Breiman, L.;Friedman, J. H.;Olshen, R. A.;Stone, C. J.
  3. Neuro-computing: Algorithms, Architectures and Applications Probabilistic Interpreation of feedforward classification network outputs, with relationships to statistical pattern recognition Bridle, J. S.;F. Fouglemann-Soulie(ed.);J.Heault(ed.)
  4. Physics Letters B v.195 Hybrid Monte Carlo Duane, S.;Kennedy, A. D.;Pendleton, B. J.;Roweth, D.
  5. Bayesian Data Analysis Gelman, A.;Carlin, J. B.;Stern, H. S.;Rubin, D. B.
  6. ASHRAE Transactions v.100 Bayesian non-linear modeling for the energy prediction competition Mackay, D. J. C.
  7. Maximum Entropy and Bayesian Methods Hyperparameters: Optimise, or integrate out? Mackay, D. J. C.;G. Heidbreder(ed.)
  8. Bayesian Learning for Nueral Networks Neal, R. M.
  9. Proceedings of the Tenth International Conference Combining instance-based and model-based learning, Machine Learning Quinlan, R.
  10. Pattern Recognition and Neural Networks Ripley, B. D.
  11. Nature v.323 Learning representations by back-propagating errors Rumelhart, D. E.;Hinton, G. E.;Williams, R. J.
  12. Parallel Distributed Processing: Explorations in the Microstructure of Cognition: Foundations v.1 Learning internal representations by error propagation Rumelhart, D. E.;Hinton, G. E.;Wiliams, R. J.;D. E. Rumelhart(ed.);J. L. McClelland(ed.)
  13. AnsweTree를 이용한 데이터 마이닝 의사결정나무분석 최종후;한상태;강현철;김은식