• Title/Summary/Keyword: MLP(multi-Layer perceptron)

Search Result 227, Processing Time 0.028 seconds

PCA vs. ICA for Face Recognition

  • Lee, Oyoung;Park, Hyeyoung;Park, Seung-Jin
    • Proceedings of the IEEK Conference
    • /
    • 2000.07b
    • /
    • pp.873-876
    • /
    • 2000
  • The information-theoretic approach to face recognition is based on the compact coding where face images are decomposed into a small set of basis images. Most popular method for the compact coding may be the principal component analysis (PCA) which eigenface methods are based on. PCA based methods exploit only second-order statistical structure of the data, so higher- order statistical dependencies among pixels are not considered. Independent component analysis (ICA) is a signal processing technique whose goal is to express a set of random variables as linear combinations of statistically independent component variables. ICA exploits high-order statistical structure of the data that contains important information. In this paper we employ the ICA for the efficient feature extraction from face images and show that ICA outperforms the PCA in the task of face recognition. Experimental results using a simple nearest classifier and multi layer perceptron (MLP) are presented to illustrate the performance of the proposed method.

  • PDF

A Simple Approach of Improving Back-Propagation Algorithm

  • Zhu, H.;Eguchi, K.;Tabata, T.;Sun, N.
    • Proceedings of the IEEK Conference
    • /
    • 2000.07b
    • /
    • pp.1041-1044
    • /
    • 2000
  • The enhancement to the back-propagation algorithm presented in this paper has resulted from the need to extract sparsely connected networks from networks employing product terms. The enhancement works in conjunction with the back-propagation weight update process, so that the actions of weight zeroing and weight stimulation enhance each other. It is shown that the error measure, can also be interpreted as rate of weight change (as opposed to ${\Delta}W_{ij}$), and consequently used to determine when weights have reached a stable state. Weights judged to be stable are then compared to a zero weight threshold. Should they fall below this threshold, then the weight in question is zeroed. Simulation of such a system is shown to return improved learning rates and reduce network connection requirements, with respect to the optimal network solution, trained using the normal back-propagation algorithm for Multi-Layer Perceptron (MLP), Higher Order Neural Network (HONN) and Sigma-Pi networks.

  • PDF

A Study on the Speech Recognition Moduleas Design Using HMM Speech Recognition Algorithm (HMM(Hidden Markov Model) 음성인식 알고리즘을 이용한 효율적인 음성인식 모듈 개발 설계에 관한 연구)

  • 김정훈;류홍석;강재명;강성인;이상배
    • Proceedings of the Korean Institute of Intelligent Systems Conference
    • /
    • 2002.12a
    • /
    • pp.337-340
    • /
    • 2002
  • 본 논문에서는 휠체어 시스템에 화자 독립 고립단어 인식을 위한 임베디드 시스템 설계에 관한 내용을 서술한다. 실제 환경에서는 잡음이 포함되어 있어 인식률을 저하시키므로, 잡음을 제거하는 방식 중 가장 간단한 방식인 스펙트럼 차감법(Spectral subtraction method)을 사용하여 잡음을 제거했다 전처리 단계에서는 12차 LPC&Cepstrum 방식을 사용했고, 인식 알고리즘은 DHMM (Discrete Hidden Markov Model)을 전반부 인식기로 사용했다. 이 알고리즘을 적용하기 위해서는 데이터 간소화를 위해 벡터양자화(Vector Quantization) 처리가 전제되어야한다 또한 인식알고리즘은 인식률을 향상을 위해 후처리 인식기로 신경망(MLP:Multi-layer Perceptron)을 통해서 인식률을 향상시켰다 화자 독립 시스템에 맞는 인식 단어의 구성은 총 7개단어로 남녀 총 25명 목소리로 구성하였다. 그리고 하드웨어 구성은 32-bits floating point 방식인 TMS320C32를 적용했고, 메모리 부분은 4Mbyte로 설계를 했으며, 메인보드의 설계는 현재 완성 단계에 있다.

A Study on Tools for Implementing High-speed Neural Network (신경회로망의 고속 구현 방법에 관한 연구)

  • Kim, Pyong-Kun;Kim, Doo-Sik;Lee, Sang-Ho
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2002.11a
    • /
    • pp.377-380
    • /
    • 2002
  • 신경회로망은 문자인식, 자동제어 등의 여러 분야에 널리 쓰이는 방식이다. 그러나 신경회로망을 구현하는데는 연산량이 많아서 실시간으로 구현하기에 어려움이 많이 따른다. 본 논문은 신경회로망을 구현하는데 필요한 연산을 살펴보고 그 연산을 구현하는 방법을 비교 분석하였다. 신경회로망을 구현하기 위해 DSP(Digital Signal Processor), PC의 FPU(Floating Point Unit), Intel사의 Pentium 계열 프로세서에서 지원하는 SIMD(Single Instruction Multiple Data) 기술을 사용하여 결과를 비교 분석 하였다. 신경회로망의 핵심인 MLP(Multi Layer Perceptron) 연산에 대해 실험한 결과 SIMD 기술을 이용하는 방법이 다른 방법에 비해 2배이상 좋은 결과를 나타내었다.

  • PDF

Data Fusion of Network and System Call Data For Efficient Intrusion Detection (효율적인 침입탐지를 위한 네트워크 정보와 시스템 콜 정보융합 방법개발)

  • 문규원;김은주;류정우;김명원
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2004.10a
    • /
    • pp.208-210
    • /
    • 2004
  • 최근 인터넷, 인트라넷과 같은 통신 기술 발전에 따라 거의 모든 시스템이 서로 연결되었고, 사용자들은 손쉽게 정보를 공유할 수 있게 되었다. 따라서 시스템 침입을 통한 데이터의 변형과 인증 받지 않은 접근과 같은 컴퓨터 범죄가 급속도로 증가하고 있다. 그러므로 이러한 컴퓨터 범죄를 막기 위한 침입 탐지 기술 개발은 매우 중요하다. 전통적인 침입 탐지 모델은 단지 네트워크 패킷 데이터만을 사용하고 있으며. 침입탐지 시스템의 성능을 높이기 위해 서로 다른 분류 알고리즘을 결합하는 방법을 사용해왔다. 그러나 이러한 모델은 일반적으로 성능향상에 있어서 제한적이다. 본 논문에서는 침입탐지 시스템의 성능을 개선하기 위해 네트워크 데이터와 시스템 콜 데이터를 융합하는 방법을 제안하였으며. 데이터 융합 모델로서 Multi-Layer Perceptron (MLP)를 사용하였다. 그리고 DARPA 에서 생성한 네트워크 데이터와 본 논문에서 가상으로 생성한 시스템 콜 데이터를 함께 결합하여 모델을 생성 한 뒤 실험을 수행하였다. 본 논문에서의 실험결과로. 단순히 네트워크 데이터만을 사용한 모델에 비해 시스템 콜 데이터를 함께 결합한 모델이 훨씬 더 놓은 인식률을 보인다는 것을 확인할 수 있다

  • PDF

Optimization of Posture for Humanoid Robot Using Artificial Intelligence (인공지능을 이용한 휴머노이드 로봇의 자세 최적화)

  • Choi, Kook-Jin
    • Journal of the Korean Society of Industry Convergence
    • /
    • v.22 no.2
    • /
    • pp.87-93
    • /
    • 2019
  • This research deals with posture optimization for humanoid robot against external forces using genetic algorithm and neural network. When the robot takes a motion to push an object, the torque of each joint is generated by reaction force at the palm. This study aims to optimize the posture of the humanoid robot that will change this torque. This study finds an optimized posture using a genetic algorithm such that torques are evenly distributed over the all joints. Then, a number of different optimized postures are generated from various the reaction forces at the palm. The data is to be used as training data of MLP(Multi-Layer Perceptron) neural network with BP(Back Propagation) learning algorithm. Humanoid robot can find the optimal posture at different reaction forces in real time using the trained neural network include non-training data.

Design of Intrusion Detection System Using Neural Networks (신경망을 적용한 침입탐지시스템의 설계)

  • Lee, Jong-Hyouk;Han, Young-Ju;Chung, Tai-Myung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2004.05a
    • /
    • pp.1067-1070
    • /
    • 2004
  • 우리는 갈수록 지능화, 분산화, 자동화 되어 가고 있는 침입에 대해 효과적으로 대처하기 위해 신경망을 적용한 침입탐지 시스템을 설계 하였다. 본 논문은 신경망을 학습시키기 위해 학습 견본과 신경망 적용 인자를 정의 하였으며 학습 기법으론 MLP(Multi Layer Perceptron)을 이용 하였다. 새롭게 설계된 침입탐지 시스템의 탐지 모듈은 기존의 패턴 매치 방식의 모듈과 신경망 모듈이 적용되어 보다 정확한 침입 탐지가 가능하다.

  • PDF

Classification of ultrasonic signals of thermally aged cast austenitic stainless steel (CASS) using machine learning (ML) models

  • Kim, Jin-Gyum;Jang, Changheui;Kang, Sung-Sik
    • Nuclear Engineering and Technology
    • /
    • v.54 no.4
    • /
    • pp.1167-1174
    • /
    • 2022
  • Cast austenitic stainless steels (CASSs) are widely used as structural materials in the nuclear industry. The main drawback of CASSs is the reduction in fracture toughness due to long-term exposure to operating environment. Even though ultrasonic non-destructive testing has been conducted in major nuclear components and pipes, the detection of cracks is difficult due to the scattering and attenuation of ultrasonic waves by the coarse grains and the inhomogeneity of CASS materials. In this study, the ultrasonic signals measured in thermally aged CASS were discriminated for the first time with the simple ultrasonic technique (UT) and machine learning (ML) models. Several different ML models, specifically the K-nearest neighbors (KNN), Support Vector Machine (SVM), and Multi-Layer Perceptron (MLP) models, were used to classify the ultrasonic signals as thermal aging condition of CASS specimens. We identified that the ML models can predict the category of ultrasonic signals effectively according to the aging condition.

Nondestructive crack detection in metal structures using impedance responses and artificial neural networks

  • Ho, Duc-Duy;Luu, Tran-Huu-Tin;Pham, Minh-Nhan
    • Structural Monitoring and Maintenance
    • /
    • v.9 no.3
    • /
    • pp.221-235
    • /
    • 2022
  • Among nondestructive damage detection methods, impedance-based methods have been recognized as an effective technique for damage identification in many kinds of structures. This paper proposes a method to detect cracks in metal structures by combining electro-mechanical impedance (EMI) responses and artificial neural networks (ANN). Firstly, the theories of EMI responses and impedance-based damage detection methods are described. Secondly, the reliability of numerical simulations for impedance responses is demonstrated by comparing to pre-published results for an aluminum beam. Thirdly, the proposed method is used to detect cracks in the beam. The RMSD (root mean square deviation) index is used to alarm the occurrence of the cracks, and the multi-layer perceptron (MLP) ANN is employed to identify the location and size of the cracks. The selection of the effective frequency range is also investigated. The analysis results reveal that the proposed method accurately detects the cracks' occurrence, location, and size in metal structures.

Emergency Situation Recognition System Using CCTV and Deep Learning (CCTV와 딥러닝을 이용한 응급 상황 인식 시스템)

  • Park, SeJun;Jeong, Beom-jin;Lee, Jeong-joon
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2020.11a
    • /
    • pp.807-809
    • /
    • 2020
  • 기존의 CCTV 관리 체계는 사건·사고에 대한 신속한 조치가 불가능하고 정황 파악이나 증거자료 확보 등 사후조치의 성격이 강하다. 본 논문에서는 Mask R-CNN(Regions with CNN)을 이용하여 CCTV가 읽어 들이는 객체가 응급상황인지 판단하는 방법을 제시한다. 사람으로 인식되는 영역을 다층 퍼셉트론(MLP, Multi-Layer Perceptron)으로 학습시켜 해당 대상이 처한 상황을 인지하고 응급상황으로 인식되는 상황이 지속될 경우 관리 모니터를 통해 사용자에게 알림을 준다. 본 연구를 통해 실시간 상호작용적인 CCTV 관리 체계를 구축하여 도움이 필요한 사람의 골든타임을 놓치지 않게 될 것으로 기대한다.