• Title/Summary/Keyword: 고속학습 알고리즘

Search Result 54, Processing Time 0.029 seconds

The design of an initial codebook by an fast enhanced splitting method (개선된 고속 미소분리 방법에 의한 초기 부호책 설계)

  • Park SeungHouck;Cho CheHwang
    • Proceedings of the Acoustical Society of Korea Conference
    • /
    • spring
    • /
    • pp.271-274
    • /
    • 2002
  • 본 논문에서는 초기 부호책 설계 방법으로 가장 널리 사용되는 이분 미소분리 방법의 성능 개선과 설계시간을 단축하기 위한 새로운 알고리즘을 제안한다. 성능 개선을 위해 학습벡터의 소속수가 최소인 부호백터를 제거하고, 최대인 부호벡터를 미소분리하여 대체하는 방법을 적용하고, 모든 부호벡터와의 거리오차론 구하여 학습벡터의 소속 여부를 결정하는 기존 방법과는 달리, 전단계와 현재 단계의 소속 부호벡터와의 거리오차를 가지고 소속 여부를 결정함으로써 설계시간을 크게 단축할 수 있다.

  • PDF

Speech and Noise Recognition System by Neural Network (신경회로망에 의한 음성 및 잡음 인식 시스템)

  • Choi, Jae-Sung
    • The Journal of the Korea institute of electronic communication sciences
    • /
    • v.5 no.4
    • /
    • pp.357-362
    • /
    • 2010
  • This paper proposes the speech and noise recognition system by using a neural network in order to detect the speech and noise sections at each frame. The proposed neural network consists of a layered neural network training by back-propagation algorithm. First, a power spectrum obtained by fast Fourier transform and linear predictive coefficients are used as the input to the neural network for each frame, then the neural network is trained using these power spectrum and linear predictive coefficients. Therefore, the proposed neural network can train using clean speech and noise. The performance of the proposed recognition system was evaluated based on the recognition rate using various speeches and white, printer, road, and car noises. In this experiment, the recognition rates were 92% or more for such speech and noise when training data and evaluation data were the different.

A Method of Highspeed Similarity Retrieval based on Self-Organizing Maps (자기 조직화 맵 기반 유사화상 검색의 고속화 수법)

  • Oh, Kun-Seok;Yang, Sung-Ki;Bae, Sang-Hyun;Kim, Pan-Koo
    • The KIPS Transactions:PartB
    • /
    • v.8B no.5
    • /
    • pp.515-522
    • /
    • 2001
  • Feature-based similarity retrieval become an important research issue in image database systems. The features of image data are useful to discrimination of images. In this paper, we propose the highspeed k-Nearest Neighbor search algorithm based on Self-Organizing Maps. Self-Organizing Map(SOM) provides a mapping from high dimensional feature vectors onto a two-dimensional space. A topological feature map preserves the mutual relations (similarity) in feature spaces of input data, and clusters mutually similar feature vectors in a neighboring nodes. Each node of the topological feature map holds a node vector and similar images that is closest to each node vector. We implemented about k-NN search for similar image classification as to (1) access to topological feature map, and (2) apply to pruning strategy of high speed search. We experiment on the performance of our algorithm using color feature vectors extracted from images. Promising results have been obtained in experiments.

  • PDF

New Scheme for Smoker Detection (흡연자 검출을 위한 새로운 방법)

  • Lee, Jong-seok;Lee, Hyun-jae;Lee, Dong-kyu;Oh, Seoung-jun
    • The Journal of Korean Institute of Communications and Information Sciences
    • /
    • v.41 no.9
    • /
    • pp.1120-1131
    • /
    • 2016
  • In this paper, we propose a smoker recognition algorithm, detecting smokers in a video sequence in order to prevent fire accidents. We use description-based method in hierarchical approaches to recognize smoker's activity, the algorithm consists of background subtraction, object detection, event search, event judgement. Background subtraction generates slow-motion and fast-motion foreground image from input image using Gaussian mixture model with two different learning-rate. Then, it extracts object locations in the slow-motion image using chain-rule based contour detection. For each object, face is detected by using Haar-like feature and smoke is detected by reflecting frequency and direction of smoke in fast-motion foreground. Hand movements are detected by motion estimation. The algorithm examines the features in a certain interval and infers that whether the object is a smoker. It robustly can detect a smoker among different objects while achieving real-time performance.

A Study on Deep Learning Methodology for Bigdata Mining from Smart Farm using Heterogeneous Computing (스마트팜 빅데이터 분석을 위한 이기종간 심층학습 기법 연구)

  • Min, Jae-Ki;Lee, DongHoon
    • Proceedings of the Korean Society for Agricultural Machinery Conference
    • /
    • 2017.04a
    • /
    • pp.162-162
    • /
    • 2017
  • 구글에서 공개한 Tensorflow를 이용한 여러 학문 분야의 연구가 활발하다. 농업 시설환경을 대상으로 한 빅데이터의 축적이 증가함과 아울러 실효적인 정보 획득을 위한 각종 데이터 분석 및 마이닝 기법에 대한 연구 또한 활발한 상황이다. 한편, 타 분야의 성공적인 심층학습기법 응용사례에 비하여 농업 분야에서의 응용은 초기 성장 단계라 할 수 있다. 이는 농업 현장에서 취득한 정보의 난해성 및 완성도 높은 생육/환경 모델링 정보의 부재로 실효적인 전과정 처리 기술 도출에 소요되는 시간, 비용, 연구 환경이 상대적으로 부족하기 때문일 것이다. 특히, 센서 기반 데이터 취득 기술 증가에 따라 비약적으로 방대해진 수집 데이터를 시간 복잡도가 높은 심층 학습 모델링 연산에 기계적으로 단순 적용할 경우 시간 효율적인 측면에서 성공적인 결과 도출에 애로가 있을 것이다. 매우 높은 시간 복잡도를 해결하기 위하여 제시된 하드웨어 가속 기능의 경우 일부 개발환경에 국한이 되어 있다. 일례로, 구글의 Tensorflow는 오픈소스 기반 병렬 클러스터링 기술인 MPICH를 지원하는 알고리즘을 공개하지 않고 있다. 따라서, 본 연구에서는 심층학습 기법 연구에 있어서, 예상 가능한 다양한 자원을 활용하여 최대한 연산의 결과를 빨리 도출할 수 있는 하드웨어적인 접근 방법을 모색하였다. 호스트에서 수행하는 일방적인 학습 알고리즘과 달리 이기종간 심층 학습이 가능하기 위해선 우선, NFS(Network File System)를 이용하여 데이터 계층이 상호 연결이 되어야 한다. 이를 위해서 고속 네트워크를 기반으로 한 NFS의 이용이 필수적이다. 둘째로 제한된 자원의 한계를 극복하기 위한 메모 공유 라이브러리가 필요하다. 셋째로 이기종간 프로세서에 최적화된 병렬 처리용 컴파일러를 이용해야 한다. 가장 중요한 부분은 이기종간의 처리 능력에 따른 작업을 고르게 분배할 수 있는 작업 스케쥴링이 수행되어야 하며, 이는 처리하고자 하는 데이터의 형태에 따라 매우 가변적이므로 해당 데이터 도메인에 대한 엄밀한 사전 벤치마킹이 수행되어야 한다. 이러한 요구조건을 대부분 충족하는 Open-CL ver1.2(https://www.khronos.org/opencl/)를 이용하였다. 최신의 Open-CL 버전은 2.2이나 본 연구를 위하여 준비한 4가지 이기종 시스템에서 모두 공통적으로 지원하는 버전은 1.2이다. 실험적으로 선정된 4가지 이기종 시스템은 1) Windows 10 Pro, 2) Linux-Ubuntu 16.04.4 LTS-x86_64, 3) MAC OS X 10.11 4) Linux-Ubuntu 16.04.4 LTS-ARM Cortext-A15 이다. 비교 분석을 위하여 NVIDIA 사에서 제공하는 Pascal Titan X 2식을 SLI로 구성한 시스템을 준비하였다. 개별 시스템에서 별도로 컴파일 된 바이너리의 이름을 통일하고, 개별 시스템의 코어수를 동일하게 균등 배분하여 100 Hz의 데이터로 입력이 되는 온도 정보와 조도 정보를 입력으로 하고 이를 습도정보에 Linear Gradient Descent Optimizer를 이용하여 Epoch 10,000회의 학습을 수행하였다. 4종의 이기종에서 총 32개의 코어를 이용한 학습에서 17초 내외로 연산 수행을 마쳤으나, 비교 시스템에서는 11초 내외로 연산을 마치는 결과가 나왔다. 기보유 하드웨어의 적절한 활용이 가능한 심층학습 기법에 대한 연구를 지속할 것이다

  • PDF

Efficient Implementation of Convolutional Neural Network Using CUDA (CUDA를 이용한 Convolutional Neural Network의 효율적인 구현)

  • Ki, Cheol-Min;Cho, Tai-Hoon
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.21 no.6
    • /
    • pp.1143-1148
    • /
    • 2017
  • Currently, Artificial Intelligence and Deep Learning are rising as hot social issues, and these technologies are applied to various fields. A good method among the various algorithms in Artificial Intelligence is Convolutional Neural Networks. Convolutional Neural Network is a form that adds Convolution Layers to Multi Layer Neural Network. If you use Convolutional Neural Networks for small amount of data, or if the structure of layers is not complicated, you don't have to pay attention to speed. But the learning should take long time when the size of the learning data is large and the structure of layers is complicated. In these cases, GPU-based parallel processing is frequently needed. In this paper, we developed Convolutional Neural Networks using CUDA, and show that its learning is faster and more efficient than learning using some other frameworks or programs.

Development of Learning Algorithm using Brain Modeling of Hippocampus for Face Recognition (얼굴인식을 위한 해마의 뇌모델링 학습 알고리즘 개발)

  • Oh, Sun-Moon;Kang, Dae-Seong
    • Journal of the Institute of Electronics Engineers of Korea SP
    • /
    • v.42 no.5 s.305
    • /
    • pp.55-62
    • /
    • 2005
  • In this paper, we propose the face recognition system using HNMA(Hippocampal Neuron Modeling Algorithm) which can remodel the cerebral cortex and hippocampal neuron as a principle of a man's brain in engineering, then it can learn the feature-vector of the face images very fast and construct the optimized feature each image. The system is composed of two parts. One is feature-extraction and the other is teaming and recognition. In the feature extraction part, it can construct good-classified features applying PCA(Principal Component Analysis) and LDA(Linear Discriminants Analysis) in order. In the learning part, it cm table the features of the image data which are inputted according to the order of hippocampal neuron structure to reaction-pattern according to the adjustment of a good impression in the dentate gyrus region and remove the noise through the associate memory in the CA3 region. In the CA1 region receiving the information of the CA3, it can make long-term memory learned by neuron. Experiments confirm the each recognition rate, that are face changes, pose changes and low quality image. The experimental results show that we can compare a feature extraction and learning method proposed in this paper of any other methods, and we can confirm that the proposed method is superior to existing methods.

Encoder Type Semantic Segmentation Algorithm Using Multi-scale Learning Type for Road Surface Damage Recognition (도로 노면 파손 인식을 위한 Multi-scale 학습 방식의 암호화 형식 의미론적 분할 알고리즘)

  • Shim, Seungbo;Song, Young Eun
    • The Journal of The Korea Institute of Intelligent Transport Systems
    • /
    • v.19 no.2
    • /
    • pp.89-103
    • /
    • 2020
  • As we face an aging society, the demand for personal mobility for disabled and aged people is increasing. In fact, as of 2017, the number of electric wheelchair in the country continues to increase to 90,000. However, people with disabilities and seniors are more likely to have accidents while driving, because their judgment and coordination are inferior to normal people. One of the causes of the accident is the interference of personal vehicle steering control due to unbalanced road surface conditions. In this paper, we introduce a encoder type semantic segmentation algorithm that can recognize road conditions at high speed to prevent such accidents. To this end, more than 1,500 training data and 150 test data including road surface damage were newly secured. With the data, we proposed a deep neural network composed of encoder stages, unlike the Auto-encoding type consisting of encoder and decoder stages. Compared to the conventional method, this deep neural network has a 4.45% increase in mean accuracy, a 59.2% decrease in parameters, and an 11.9% increase in computation speed. It is expected that safe personal transportation will be come soon by utilizing such high speed algorithm.

A PID Genetic Controller Design Using Reference Model (기준모델을 이용한 PID 유전 제어기 설계)

  • Park, K.H.;Nam, M.H.;Hwang, Y.W.;Chun, S.J.
    • Proceedings of the KIEE Conference
    • /
    • 1999.07b
    • /
    • pp.894-896
    • /
    • 1999
  • PID 제어는 50년의 역사를 갖기 때문에 현장의 사용자는 이 제어방식에 익숙해져 있으며, 제어장치의 구성이 간단하며 제어기의 최적동조가 가능하므로 많은 분야에서 사용되고 있다[1]. 그러나 PID 제어기에 의해서 얻은 결과에 대하여 만족하기 위해서는 많은 시행착오를 겪어야 한다. 또한 만족하는 결과를 얻었다고 할지라도 외란, 플랜트의 동특성이 바뀌는 경우 시스템을 추종하지 못하기 때문에 파라미터를 재조정하여야 한다. 유전 알고리즘은 자연세계의 진화 현상에 기초한 계산모델로서 John Holland에 의해서 1975년에 개발된 전역적인 최적화 알고리즘이며[1][2], 비선형 고차원, 불연속, 다중모드, 노이즈 함수 등에 대하여 강건함을 보여주고, 복잡한 탐색 공간에서 최적 값을 스스로 발견하는 학습 능력을 갖는다. 이 방법은 재생산, 교배, 돌연변이를 통하여 최적해를 찾은 방법으로 1989년에 D. E. Goldgerg에 의해서 체계적으로 정리된 후 여러 분야에서 응용되고 있다[3][4]. 그러나 유전 알고리즘은 목적함수만을 이용하여 해집단을 탐색하기 때문에 숙련운전자가 원하는 제어 특성 명세인 상승시간, 정착시간, 초과량(oveshoot) 둥을 구체적으로 명시하여 제어에 반영할 수 없다. 또한, 유전 알고리즘은 입력 값이 크게 바뀔 경우 다른 시스템으로 인식하여 새로운 탐색을 수행하는 단점을 가지고 있다. 본 논문은 첫째, 기준모델을 도입하여 플랜트의 성능을 기준모델로 표현하여 플랜트가 요구하는 성능지표를 정량적으로 규정하는 것이 가능하였다. 또한, 이것은 미지 플랜트 동특성을 식별하기 위한 신호로 사용되어, 플랜트의 정보를 얻는데 이용되었다. 즉, 기준모델과 플랜트 출력사이의 추종 오차 정보가 적응기구인 PID 유전제어기의 입력으로 사용되며, 구형파 입력의 경우에도 기준모델과 플랜트의 출력차는 크게 변하지 않는다. 따라서, 유전 알고리즘의 목적함수에 기준 모델을 제안 적용하여 안정적이고, 세밀한 제어를 수행하였다. 둘째, PID의 간단하면서 확실한 제어가 가능하다는 점과 전역적인 최적값을 찾을 수 있는 유전 알고리즘을 적용하여 고속제어를 요하는 직류 서보 모터(DC Servo Motor) 운전 시 실시간 파라미터 동조에 적용하였다.

  • PDF

Speed Control of Induction Motor Using Self-Learning Fuzzy Controller (자기학습형 퍼지제어기를 이용한 유도전동기의 속도제어)

  • 박영민;김덕헌;김연충;김재문;원충연
    • The Transactions of the Korean Institute of Power Electronics
    • /
    • v.3 no.3
    • /
    • pp.173-183
    • /
    • 1998
  • In this paper, an auto-tuning method for fuzzy controller's membership functions based on the neural network is presented. The neural network emulator offers the path which reforms the fuzzy controller's membership functions and fuzzy rule, and the reformed fuzzy controller uses for speed control of induction motor. Thus, in the case of motor parameter variation, the proposed method is superior to a conventional method in the respect of operation time and system performance. 32bit micro-processor DSP(TMS320C31) is used to achieve the high speed calculation of the space voltage vector PWM and to build the self-learning fuzzy control algorithm. Through computer simulation and experimental results, it is confirmed that the proposed method can provide more improved control performance than that PI controller and conventional fuzzy controller.

  • PDF