Word Verification using Similar Word Information and State-Weights of HMM using Genetic Algorithmin

유사단어 정보와 유전자 알고리듬을 이용한 HMM의 상태하중값을 사용한 단어의 검증

  • Published : 2001.01.01

Abstract

Hidden Markov Model (HMM) is the most widely used method in speech recognition. In general, HMM parameters are trained to have maximum likelihood (ML) for training data. Although the ML method has good performance, it dose not take account into discrimination to other words. To complement this problem, a word verification method by re-recognition of the recognized word and its similar word using the discriminative function of the two words. To find the similar word, the probability of other words to the HMM is calculated and the word showing the highest probability is selected as the similar word of the mode. To achieve discrimination to each word the weight to each state is appended to the HMM parameter. The weight is calculated by genetic algorithm. The verificator complemented discrimination of each word and reduced the error occurred by similar word. As a result of verification the total error is reduced by about 22%

현재 HMM은 음성인식에서 가장 널리 쓰이는 방법이다. 대부분의 경우 HMM의 매개변수는 훈련데이터에 대해 최대유사도를 가지도록 훈련된다. 그러나 이러한 방법은 다른 단어들에 대한 변별력을 고려하지 않는 단점이 있다. 이 논문에서는 이러한 단점을 보완하기 위해, 유사단어에 대한 정보와 두 단어 사이에 변별력을 가지는 함수를 사용하여, 인식된 단어와 유사단어만을 대상으로 재인식하는 과정을 통해 단어를 검증하는 방법을 제안하였다. 유사단어는 각 단어의 HMM에 다른 단어의 훈련음성으로 확률값을 계산하여 가장 유사한 단어를 얻었으며, 단어간에 변별력을 가지는 인식기는 각 상태에 하중값을 가지는 인식기를 사용하여 구현하였다. 단어간에 변별력을 가지는 하중값은 유전자 알고리듬을 사용하여 얻었다. 실험에서 유사단어와 변별력을 가지는 검증기의 사용으로 오인식률이 약 22% 감소하였다.

Keywords

References

  1. H. Sakoe and S. Chiba, 'Dynamic programming algorithm optimization for spoken word recognition,' IEEE Trans. Acoust., Speech, Signal Processing, vol. ASSP-26, pp. 43-49, Feb. 1978
  2. L. R. Rabiner, 'A tutorial on hidden Markov models and selected applications in speech recognition,' Proc. IEEE, vol. 77, pp. 257-285, Feb. 1989 https://doi.org/10.1109/5.18626
  3. L. R. Rabiner and B. H. Juang, 'An introduction to hidden Markov models,' IEEE ASSP Mag., pp. 4-16, Jan. 1986
  4. R. Lippmann, 'An Introduction to computing with Neural Nets,' IEEE ASSP Mag., pp. 4-16, Jan. 1986
  5. D. E. Goldberg, Genetic Algorithms in search, Optimization and Machine Learning, Addison-Wesley, 1989
  6. Z. Michalewicz, Genetic $Algorithms\;+\;Data$ Structures = Evolution Program, Springer-Verlag, 1995
  7. M. Mitchell, An Introduction to Genetic Algorithms, The MIT Press, 1996
  8. L. R. Rabiner, S. E. Levinson, B. H. Juang, and M. M. Sondhi, 'Recognition of isolated digits using hidden Markov models with continuous mixture densities,' AT&T Tech J., vol. 64, pp. 1211-1234, July-Aug. 1985
  9. O. W. Kwon and C. K. Un, 'Performance of HMM based speech recognizers with discriminative state-weights,' Speech Communication, vol. 19, pp. 197-205, 1996 https://doi.org/10.1016/0167-6393(96)00035-0