• 제목/요약/키워드: MLP(Multi-Layer Perceptron)

검색결과 234건 처리시간 0.038초

MLP 층을 갖는 CNN의 설계 (Design of CNN with MLP Layer)

  • 박진현;황광복;최영규
    • 한국기계기술학회지
    • /
    • 제20권6호
    • /
    • pp.776-782
    • /
    • 2018
  • After CNN basic structure was introduced by LeCun in 1989, there has not been a major structure change except for more deep network until recently. The deep network enhances the expression power due to improve the abstraction ability of the network, and can learn complex problems by increasing non linearity. However, the learning of a deep network means that it has vanishing gradient or longer learning time. In this study, we proposes a CNN structure with MLP layer. The proposed CNNs are superior to the general CNN in their classification performance. It is confirmed that classification accuracy is high due to include MLP layer which improves non linearity by experiment. In order to increase the performance without making a deep network, it is confirmed that the performance is improved by increasing the non linearity of the network.

새로운 Preceding Layer Driven MLP 신경회로망의 학습 모델과 그 응용 (Learning Model and Application of New Preceding Layer Driven MLP Neural Network)

  • 한효진;김동훈;정호선
    • 전자공학회논문지B
    • /
    • 제28B권12호
    • /
    • pp.27-37
    • /
    • 1991
  • In this paper, the novel PLD (Preceding Layer Driven) MLP (Multi Layer Perceptron) neural network model and its learning algorithm is described. This learning algorithm is different from the conventional. This integer weights and hard limit function are used for synaptic weight values and activation function, respectively. The entire learning process is performed by layer-by-layer method. the number of layers can be varied with difficulty of training data. Since the synaptic weight values are integers, the synapse circuit can be easily implemented with CMOS. PLD MLP neural network was applied to English Characters, arbitrary waveform generation and spiral problem.

  • PDF

퍼지 하이브리드 다층 퍼셉트론구조의 최적설계 (Optimal Design of Fuzzy Hybrid Multilayer Perceptron Structure)

  • 김동원;박병준;오성권
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2000년도 하계학술대회 논문집 D
    • /
    • pp.2977-2979
    • /
    • 2000
  • A Fuzzy Hybrid-Multilayer Perceptron (FH-MLP) Structure is proposed in this paper. proposed FH-MLP is not a fixed architecture. that is to say. the number of layers and the number of nodes in each layer of FH-MLP can be generated to adapt to the changing environment. FH-MLP consists of two parts. one is fuzzy nodes which each node is operated as a small fuzzy system with fuzzy implication rules. and its fuzzy system operates with Gaussian or Triangular membership functions in premise part and constants or regression polynomial equation in consequence part. the other is polynomial nodes which several types of high-order polynomial such as linear. quadratic. and cubic form are used and is connected as various kinds of multi-variable inputs. To demonstrate the effectiveness of the proposed method. time series data for gas furnace process has been applied.

  • PDF

부분연결을 사용한 MLP에 기반을 둔 피부색 검출 (Skin Color Detection Based on Partial Connections of MLP)

  • 김성훈;이현수
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2008년도 하계종합학술대회
    • /
    • pp.681-682
    • /
    • 2008
  • This paper propose skin color detection that uses MLP(Multi Layer Perceptron) and multiple color models. The proposed method reduces weight of MLP by partial connection between input layer and hidden layer based on color models, and the using color models are RGB model and YCbCr model. The experimental result for proposed method showed 94% classification rate of skin and non-skin pixels with 32% decrease in the number of weight compare to general MLP on the average.

  • PDF

BLE Beacons의 RSSI를 이용한 실내 Zone인식 시스템 (Indoor Zone Recognition System using RSSI of BLE Beacon)

  • 김진평;안태기;김상훈;안치형
    • 한국철도학회논문집
    • /
    • 제19권5호
    • /
    • pp.585-591
    • /
    • 2016
  • 최근 IoT환경에서 다양한 위치기반의 서비스의 확산으로 인해 실내측위는 중요한 영역으로 자리잡고 있다. 이에 본 논문에서는 특정 공간에 시설물, 서비스 등을 고려한 가상의 영역을 Zone으로 설정하였고, 다층퍼셉트론(MLP: Multi-Layer Perceptron)을 사용하여 Zone을 인식하는 방법을 제안하였다. 제안방법의 다층퍼셉트론은 입력으로 BLE(Bluetooth Low Energy) Beacon의 RSSI(Received Signal Strength Indicator)신호를 입력으로 활용하였고 현재 위치의 소속된 Zone을 출력하였다. 제안방법의 검증을 위해서 실제 역사와 유사한 크기의 실험환경을 구축하였으며 4개의 Beacon을 설치하였고 2개의 Zone영역을 설정하였다.

Cable damage identification of cable-stayed bridge using multi-layer perceptron and graph neural network

  • Pham, Van-Thanh;Jang, Yun;Park, Jong-Woong;Kim, Dong-Joo;Kim, Seung-Eock
    • Steel and Composite Structures
    • /
    • 제44권2호
    • /
    • pp.241-254
    • /
    • 2022
  • The cables in a cable-stayed bridge are critical load-carrying parts. The potential damage to cables should be identified early to prevent disasters. In this study, an efficient deep learning model is proposed for the damage identification of cables using both a multi-layer perceptron (MLP) and a graph neural network (GNN). Datasets are first generated using the practical advanced analysis program (PAAP), which is a robust program for modeling and analyzing bridge structures with low computational costs. The model based on the MLP and GNN can capture complex nonlinear correlations between the vibration characteristics in the input data and the cable system damage in the output data. Multiple hidden layers with an activation function are used in the MLP to expand the original input vector of the limited measurement data to obtain a complete output data vector that preserves sufficient information for constructing the graph in the GNN. Using the gated recurrent unit and set2set model, the GNN maps the formed graph feature to the output cable damage through several updating times and provides the damage results to both the classification and regression outputs. The model is fine-tuned with the original input data using Adam optimization for the final objective function. A case study of an actual cable-stayed bridge was considered to evaluate the model performance. The results demonstrate that the proposed model provides high accuracy (over 90%) in classification and satisfactory correlation coefficients (over 0.98) in regression and is a robust approach to obtain effective identification results with a limited quantity of input data.

AR모델과 MLP를 이용한 단기 물 수요 예측 알고리즘 개발 (Short-Term Water Demand Forecasting Algorithm Using AR Model and MLP)

  • 최기선;유철;진력민;유성근;전명근
    • 한국지능시스템학회논문지
    • /
    • 제19권5호
    • /
    • pp.713-719
    • /
    • 2009
  • 본 논문은 비선형 특성을 내재한 물 수요예측을 위하여 기존의 시계열 자기회귀 알고리즘과 다층신경망 학습방법을 결합한 단기 물 수요 예측 알고리즘을 개발하였다. 제시된 방법을 검증하기 위한 사례연구로 2007년도와 2008년도 전북지역의 광역상수도 A정수장에서 취득된 데이터를 활용하여 알고리즘 구축 및 제안 방법의 정확도를 분석하였다. 실험 결과 다중회귀모델은 MAPE가 5.1%, AR모델은 3.8%, 제안된 방법인 AR+MLP 모델은 3.6%로 나타나 성능이 우수한 것으로 나타났다. 따라서 제안된 방법을 사용할 경우 정수장에서 단기 물 수요예측에 유용하게 활용할 수 있음을 보였다.

음향 및 음소 정보를 이용한 연속제의 자동 음소 분할에 대한 연구 (A Study on Automatic Phoneme Segmentation of Continuous Speech Using Acoustic and Phonetic Information)

  • 박은영;김상훈;정재호
    • 한국음향학회지
    • /
    • 제19권1호
    • /
    • pp.4-10
    • /
    • 2000
  • 본 논문은 자동 음소 분할기의 음소 경계 오류를 보상하기 위한 후처리(Postprocessing)에 관한 연구이다. 자동 분절 경계의 오류 범위를 줄일 수 있는 후처리기를 제안하고, 자동 분절 결과를 직접 합성 단위로 사용할 수 있는 대량의 합성용 운율데이터 베이스 구축에 유용함을 기술한다. 제안된 후처리기는 수작업으로 보정된 데이터의 특징벡터를 다층 신경회로망(MLP: Multi-layer perceptron)을 통해 학습을 한 후, 자동 분절 결과와 MLP 기반 후처리를 이용하여 새로운 음소 경계를 추출한다. 우선, 특징벡터 set은 음성학적 지식이 최대한 반영되도록 선정되었다. 그리고, 경계를 추출하기 위해서 비선형 패턴분리에 탁월한 성능을 보이는 MLP를 이용한다. MLP는 매우 다양하게 나타나는 음소 경계간 음성학적 특징을 단시간 내에 적용할 수 있기 때문이다. 마지막으로, 음운환경별로 특징 벡터가 적용되는 제안된 후처리 알고리즘을 이용하여 자동 분절의 경계 오류에 대한 보상이 이루어진다. 문장 단위로 발화된 합성용 데이터베이스에서 후처리기로 보정된 분절 결과는 음성 언어 번역 시스템의 분할율보다 약 19.9%의 향상된 성능을 보였으며, 절대오류 (|Hand label position-Auto label position|)는 약 28.6% 감소되었다.

  • PDF

MLP 군집 모델에 기반한 어구독립 화자증명 (Text-Independent Speaker Verification Based on MLP Cohort Model)

  • 이태승;최호진
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 가을 학술발표논문집 Vol.27 No.2 (2)
    • /
    • pp.434-436
    • /
    • 2000
  • 본 논문에서는 기존의 확률적 화자군집 모델을 MLP(multi-layer perceptron)로 구현하는 방법과 원형 화자군집 모델이 갖는 문제를 해결할 수정 모델을 제시한다. 화자군집 모델은 화자등록 시간에 민감한 실용 환경에서 중요한 의미를 지닌다. 본 연구에서 사용한 인식단위는 여러 음소계열에서 지속적인 부분을 추출한 지속음이므로 화자등록과 증명 단계에서 특정한 어구에 한정되지 않는 어구독립 방식을 채택한다.

  • PDF

지하수위 예측을 위한 경사하강법과 화음탐색법의 결합을 이용한 다층퍼셉트론 성능향상 (Improvement of multi layer perceptron performance using combination of gradient descent and harmony search for prediction of ground water level)

  • 이원진;이의훈
    • 한국수자원학회논문집
    • /
    • 제55권11호
    • /
    • pp.903-911
    • /
    • 2022
  • 물을 공급하기 위한 자원 중 하나인 지하수는 다양한 자연적 요인에 의해 수위의 변동이 발생한다. 최근, 인공신경망을 이용하여 지하수위의 변동을 예측하는 연구가 진행되었다. 기존에는 인공신경망 연산자 중 학습에 영향을 미치는 Optimizer로 경사하강법(Gradient Descent, GD) 기반 Optimizer를 사용하였다. GD 기반 Optimizer는 초기 상관관계 의존성과 해의 비교 및 저장 구조 부재의 단점이 존재한다. 본 연구는 GD 기반 Optimizer의 단점을 개선하기 위해 GD와 화음탐색법(Harmony Search, HS)를 결합한 새로운 Optimizer인 Gradient Descent combined with Harmony Search(GDHS)를 개발하였다. GDHS의 성능을 평가하기 위해 다층퍼셉트론(Multi Layer Perceptron, MLP)을 이용하여 이천율현 관측소의 지하수위를 학습 및 예측하였다. GD 및 GDHS를 사용한 MLP의 성능을 비교하기 위해 Mean Squared Error(MSE) 및 Mean Absolute Error(MAE)를 사용하였다. 학습결과를 비교하면, GDHS는 GD보다 MSE의 최대값, 최소값, 평균값 및 표준편차가 작았다. 예측결과를 비교하면, GDHS는 GD보다 모든 평가지표에서 오차가 작은 것으로 평가되었다.