• Title/Summary/Keyword: 고속 학습 알고리즘

Search Result 54, Processing Time 0.027 seconds

Section Detection Algorithm using Multi-layer Perceptron Neural Network (다층 퍼셉트론 신경회로망을 사용한 구간 검출 알고리즘)

  • Choi, Jae-Seung
    • Proceedings of the Korean Institute of Information and Commucation Sciences Conference
    • /
    • 2010.10a
    • /
    • pp.274-277
    • /
    • 2010
  • 본 논문에서는 다층 퍼셉트론 신경회로망을 사용하여 각 프레임에서 유성음, 무성음, 그리고 묵음 구간을 검출하는 구간검출 알고리즘을 제안한다. 신경회로망의 입력으로는 고속 푸리에변환에 의한 전력스펙트럼 및 고속 푸리에변환 계수가 사용되어 네트워크가 학습된다. 본 실험에서는 원 음성에 백색잡음이 중첩된 음성을 신경회로망에 입력함으로서 각 프레임에서의 유성음, 무성음, 묵음 구간의 검출성능 결과를 나타낸다.

  • PDF

Development of high-speed paper currency recognition system based on Bayesian rule (Bayesian rule에 기초한 고속 Paper currency 인식 시스템 개발)

  • Cho, Youn-Ho;Lee, Sang-Hoon;Suh, Il-Hong
    • Proceedings of the KIEE Conference
    • /
    • 2004.07d
    • /
    • pp.2474-2476
    • /
    • 2004
  • 지폐 인식 자동화기기가 여러 분야에 보편화되면서 다양한 지폐를 고속으로 처리할 수 있는 고속지폐 인식 자동화 기기가 요구되고 있다. 하지만 대부분의 지폐 인식 자동화 기기가 고속화에 적합하지 않은 구조로 설계되어 있고 신권 추가가 용이하지 않다. 본 논문은 고속 Paper Currency 인식 시스템에 적합한 범용 하드웨어 시스템과 Bayes Rule 기반의 고속 인식 알고리즘을 제안한다. 제안된 범용 하드웨어 구조는 고속의 CIS(Contact Image Sensor)와 DSP(Digital Signal Processor) 그리고 Dual Memory System으로 구성되었다. Bayes Rule에 기초한 고속 인식 알고리즘은 기존의 Paper Currency 인식 시스템에 사용되었던 기계학습 방법에 비해 신권 추가가 쉽고 적은 연산으로 권종을 판별할 수 있어 고속 지폐 인식 자동화기기에 적합하다. 본 논문에서는 제안된 방법들을 실제 자동화기기로 구현하여 그 유용성을 검증한다.

  • PDF

The fast algorithm to design an initial codebook (고속 초기 부호책 설계 알고리즘)

  • Shim JungBo;Cho CheHwang
    • Proceedings of the Acoustical Society of Korea Conference
    • /
    • spring
    • /
    • pp.267-270
    • /
    • 2002
  • 본 논문에서는 초기 부호책을 구하는 방법으로 가장 널리 쓰이는 이분 미소분리 방법의 탐색시간을 줄이기 위한 고속 알고리즘을 제안한다. 제안된 방법은 학습벡터가 소속되는 부호벡터를 찾기 위하여 기존의 방법과 같이 모든 부호벡터와의 거리오차를 계산하지 않고, 이전에 소속된 클래스에서 미소분리된 부호벡터와의 거리오차 만을 비교하여 학습벡터의 소속 여부를 결정함으로써 계산량을 크게 줄일 수 있다. 제안된 방법으로 생성된 초기 부호책과 기존의 이분 미소분리 방법으로 생성된 초기 부호책을 사용하여 K-means 알고리즘을 수행한 결과 초기 부호책의 성능 차이는 거의 없었지만, 계산량은 현저하게 감소되었다.

  • PDF

A Fast-Loaming Algorithm for MLP in Pattern Recognition (패턴인식의 MLP 고속학습 알고리즘)

  • Lee, Tae-Seung;Choi, Ho-Jin
    • Journal of KIISE:Computing Practices and Letters
    • /
    • v.8 no.3
    • /
    • pp.344-355
    • /
    • 2002
  • Having a variety of good characteristics against other pattern recognition techniques, Multilayer Perceptron (MLP) has been used in wide applications. But, it is known that Error Backpropagation (EBP) algorithm which MLP uses in learning has a defect that requires relatively long leaning time. Because learning data in pattern recognition contain abundant redundancies, in order to increase learning speed it is very effective to use online-based teaming methods, which update parameters of MLP pattern by pattern. Typical online EBP algorithm applies fixed learning rate for each update of parameters. Though a large amount of speedup with online EBP can be obtained by choosing an appropriate fixed rate, fixing the rate leads to the problem that the algorithm cannot respond effectively to different leaning phases as the phases change and the learning pattern areas vary. To solve this problem, this paper defines learning as three phases and proposes a Instant Learning by Varying Rate and Skipping (ILVRS) method to reflect only necessary patterns when learning phases change. The basic concept of ILVRS is as follows. To discriminate and use necessary patterns which change as learning proceeds, (1) ILVRS uses a variable learning rate which is an error calculated from each pattern and is suppressed within a proper range, and (2) ILVRS bypasses unnecessary patterns in loaming phases. In this paper, an experimentation is conducted for speaker verification as an application of pattern recognition, and the results are presented to verify the performance of ILVRS.

A Neural Network based Active Noise Control for Reducing Interior Noise of High-Speed Trains (고속철도의 실내소음저감을 위한 신경회로망 기반 능동소음제어 알고리즘)

  • Cho, Hyun-Cheol;Yeo, Dae-Hyun;Lee, Kwon-Soon;Nam, Hyun-Do
    • Proceedings of the KIEE Conference
    • /
    • 2009.07a
    • /
    • pp.2029_2030
    • /
    • 2009
  • 고속철도의 실내소음은 승객들의 질적 서비스와 매우 연관이 깊은 시스템 환경요소라 할 수 있다. 본 논문은 이러한 소음을 저감하기 위한 지능형 알고리즘을 이용한 능동소음제어(ANC; active noise control) 시스템을 제안한다. 우선 철도실내의 소음저감시스템에 대한 기구학적 모델링을 구한 후 철도시스템에 적합한 ANC 기법을 제안한다. 본 논문은 지능형 ANC를 구현하기 위하여 다층 퍼셉트론의 신경회로망 모델을 이용하였으며 실시간으로 소음저감을 위하여 온라인 학습알고리즘을 적용한다. 제안한 ANC 기법의 성능을 검증하기 위하여 시뮬레이션을 실시하였으며 고속 Fourier 변환(FFT) 분석을 통해 소음의 저감정도를 분석한다.

  • PDF

A Fast Vector Quantization using Subregion-based Caches of Codeword Indexes (부영역 기반 코드워드 인덱스 캐시를 사용한 고속 벡터 양자화)

  • Kim, Yong-Ha;Kim, Dae-Jin;Bang, Seung-Yang
    • Journal of KIISE:Software and Applications
    • /
    • v.28 no.4
    • /
    • pp.369-379
    • /
    • 2001
  • 본 논문은 부영역 분할과 코드워드 인텍스의 캐시 개념을 이용하여 벡터 양자화를 위한 고속코드북 생성 및 부호화 방법을 제안한다. 제안한 방법은 인접한 입력 벡터는 대개 코드북내 특정 코드워드에 의해 나타내어지는 국부성에 바탕을 두고 있다. 초기에 모든 학습 벡터가 거리에 기반한 근접성을 이용하여 정해진 수의 부영역으로 분할된다. 각 부영역에 하나의 코드워드 인덱스 캐시가 할당되는데 이 캐시는 학습 초기에는 전체 코드북 크기에 대응하는 코드워드 인덱스를 갖는다. 학습이 진행되면서 입력 벡터가 갖는 국부성 때문에 각 부영역내 캐시중 사용되지 않는 코드워드 인덱스가 점차 발생하게 되므로 이들은 LRU(Least Recently Used) 삭제 알고리즘에 의해 제거된다. 학습이 진행됨에 따라 부영역 캐시에는 주어진 입력 벡터에 의해 참조되는 코드워드 인덱스만이 남게 되므로 한 학습 주기 동한 필요한 학습 시간이 점차 짧아지게 되어 전체적으로 코드북 생성 시간을 크게 줄일 수 있게 된다. 제안한 방법은 매 학습주기마다, 코드워드 인덱스 삭제 후보 중 주어진 부영역 중심으로부터 거리에 의해 멀리 떨어진 것부터 반만을 제거함에 따라. 복원된 영상의 화질 열화가 거의 없다. 시뮬레이션 결과 제안한 방법은 기존의 LBG 방법에 비해 화질 열화는 거의 없지만 코드북 생성 (또는 부호화) 속도를 2.6-5.4배 (또는3.7-18.8배) 향상시킨다.

  • PDF

Fast Learning Algorithms for Neural Network Using Tabu Search Method with Random Moves (Random Tabu 탐색법을 이용한 신경회로망의 고속학습알고리즘에 관한 연구)

  • 양보석;신광재;최원호
    • Journal of the Korean Institute of Intelligent Systems
    • /
    • v.5 no.3
    • /
    • pp.83-91
    • /
    • 1995
  • A neural network with one or more layers of hidden units can be trained using the well-known error back propagation algorithm. According to this algorithm, the synaptic weights of the network are updated during the training by propagating back the error between the expected output and the output provided by the network. However, the error back propagation algorithm is characterized by slow convergence and the time required for training and, in some situation, can be trapped in local minima. A theoretical formulation of a new fast learning method based on tabu search method is presented in this paper. In contrast to the conventional back propagation algorithm which is based solely on the modification of connecting weights of the network by trial and error, the present method involves the calculation of the optimum weights of neural network. The effectiveness and versatility of the present method are verified by the XOR problem. The present method excels in accuracy compared to that of the conventional method of fixed values.

  • PDF

Voiced-Unvoiced-Silence Detection Algorithm using Perceptron Neural Network (퍼셉트론 신경회로망을 사용한 유성음, 무성음, 묵음 구간의 검출 알고리즘)

  • Choi, Jae-Seung
    • The Journal of the Korea institute of electronic communication sciences
    • /
    • v.6 no.2
    • /
    • pp.237-242
    • /
    • 2011
  • This paper proposes a detection algorithm for each section which detects the voiced section, unvoiced section, and the silence section at each frame using a multi-layer perceptron neural network. First, a power spectrum and FFT (fast Fourier transform) coefficients obtained by FFT are used as the input to the neural network for each frame, then the neural network is trained using these power spectrum and FFT coefficients. In this experiment, the performance of the proposed algorithm for detection of the voiced section, unvoiced section, and silence section was evaluated based on the detection rates using various speeches, which are degraded by white noise and used as the input data of the neural network. In this experiment, the detection rates were 92% or more for such speech and white noise when training data and evaluation data were the different.

A Method on the Learning Speed Improvement of the Online Error Backpropagation Algorithm in Speech Processing (음성처리에서 온라인 오류역전파 알고리즘의 학습속도 향상방법)

  • 이태승;이백영;황병원
    • The Journal of the Acoustical Society of Korea
    • /
    • v.21 no.5
    • /
    • pp.430-437
    • /
    • 2002
  • Having a variety of good characteristics against other pattern recognition techniques, the multilayer perceptron (MLP) has been widely used in speech recognition and speaker recognition. But, it is known that the error backpropagation (EBP) algorithm that MLP uses in learning has the defect that requires restricts long learning time, and it restricts severely the applications like speaker recognition and speaker adaptation requiring real time processing. Because the learning data for pattern recognition contain high redundancy, in order to increase the learning speed it is very effective to use the online-based learning methods, which update the weight vector of the MLP by the pattern. A typical online EBP algorithm applies the fixed learning rate for each update of the weight vector. Though a large amount of speedup with the online EBP can be obtained by choosing the appropriate fixed rate, firing the rate leads to the problem that the algorithm cannot respond effectively to different learning phases as the phases change and the number of patterns contributing to learning decreases. To solve this problem, this paper proposes a Changing rate and Omitting patterns in Instant Learning (COIL) method to apply the variable rate and the only patterns necessary to the learning phase when the phases come to change. In this paper, experimentations are conducted for speaker verification and speech recognition, and results are presented to verify the performance of the COIL.

Research Trends on 5G Communications using Machine Learning (기계학습을 활용한 5G통신 동향)

  • Kim, K.Y.;Kim, Y.S.;Nam, J.Y.;Lee, W.Y.;Seo, J.H.;Hong, S.E.
    • Electronics and Telecommunications Trends
    • /
    • v.31 no.5
    • /
    • pp.1-10
    • /
    • 2016
  • 빅데이터를 통한 학습, GPU를 활용한 고속 컴퓨팅 및 다양한 알고리즘 개발과 더불어 기계학습은 다양한 분야에서 종래에 이루어내지 못한 뛰어난 성과를 달성하고 있다. 그동안 상용화된 통신 시스템에서 기계학습이 활성화되지 못했지만, 전례없는 다양한 서비스와 단말을 아우르는 5G 통신에서는 더욱 적극적으로 활용될 것으로 예상된다. 기계학습은 링크 적응 등 무선접속기술, 다양한 망이 혼재된 이종망 기술, 트래픽 분류 등을 위한 네트워크 기술, 침입 탐지를 위한 보안 기술 등 다양한 통신기술에서 연구됐다. 또한, 최근에는 유럽의 Public Private Partnership(5G PPP) 프로젝트를 비롯하여 다양한 그룹에서 활발히 연구되고 있으며, 컬컴/노키아/에릭슨 등 통신 관련 기업들도 적극적인 투자를 하고 있다. 본고에서는 기계학습 관련 통신기술, 연구그룹 및 기업 동향을 소개하고, 이를 통해 5G 통신 적용 가능성을 짚어본다.

  • PDF