• 제목/요약/키워드: Feed-forward 신경망

검색결과 52건 처리시간 0.036초

2개층 전방향 인공신경망에서의 이원적인 기울기 하강 알고리즘 (Dual Gradient Descent Algorithm On Two-Layered Feed-Forward Artificial Neural Networks)

  • 최범기;이주홍;박태수
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2006년도 추계학술발표대회
    • /
    • pp.3-6
    • /
    • 2006
  • 멀티레벨의 feed-forward 네트워크에 대한 학습 방법은 기울기 방법과 전역 최적화방법으로 나눌 수 있다. 역전파 또는 그 변형적인 방법들과 같은 기울기 하강 방법은 편리하기 때문에 여러 분야에서 다양하게 사용되고 있다. 하지만, 역전파와 관련된 가장 큰 문제는 지역 최소점에 빠진다는 것이다. 따라서 본 논문에서 기울기 하강 방법의 단순성을 침범하지 않고 지역 최소점을 극복할 수 있는 개선된 기울기 하강 방법을 제안한다. 제안하는 방법은 상위 연결과 하위연결을 분리하여 훈련하고 평가하기 때문에 이원적인 기울기 하강 방법이라 칭한다. 그렇기 때문에, 은닉층 유닛의 목표 값들은 하위 연결의 평가 툴로써 사용한다. 논문에서 제안하는 방법의 성능은 다양한 실험을 통해서 검증된다.

  • PDF

순환 신경망을 이용한 보행단계 분류기 (A Gait Phase Classifier using a Recurrent Neural Network)

  • 허원호;김은태;박현섭;정준영
    • 제어로봇시스템학회논문지
    • /
    • 제21권6호
    • /
    • pp.518-523
    • /
    • 2015
  • This paper proposes a gait phase classifier using a Recurrent Neural Network (RNN). Walking is a type of dynamic system, and as such it seems that the classifier made by using a general feed forward neural network structure is not appropriate. It is known that an RNN is suitable to model a dynamic system. Because the proposed RNN is simple, we use a back propagation algorithm to train the weights of the network. The input data of the RNN is the lower body's joint angles and angular velocities which are acquired by using the lower limb exoskeleton robot, ROBIN-H1. The classifier categorizes a gait cycle as two phases, swing and stance. In the experiment for performance verification, we compared the proposed method and general feed forward neural network based method and showed that the proposed method is superior.

인공신경망을 이용한 뿌리산업 생산공정 예측 모델 개발 (Development of Prediction Model for Root Industry Production Process Using Artificial Neural Network)

  • 박찬범;손흥선
    • 한국정밀공학회지
    • /
    • 제34권1호
    • /
    • pp.23-27
    • /
    • 2017
  • This paper aims to develop a prediction model for the product quality of a casting process. Prediction of the product quality utilizes an artificial neural network (ANN) in order to renovate the manufacturing technology of the root industry. Various aspects of the research on the prediction algorithm for the casting process using an ANN have been investigated. First, the key process parameters have been selected by means of a statistics analysis of the process data. Then, the optimal number of the layers and neurons in the ANN structure is established. Next, feed-forward back propagation and the Levenberg-Marquardt algorithm are selected to be used for training. Simulation of the predicted product quality shows that the prediction is accurate. Finally, the proposed method shows that use of the ANN can be an effective tool for predicting the results of the casting process.

순방향 2층 신경망의 연결강도 분포 특성 분석 및 연결강도 초기화에 적용 (Analysis of Weight Distribution of Feedforward Two-Layer Neural Networks and its Application to Weight Initialization)

  • 고진욱;박민용;홍대식;이철희
    • 전자공학회논문지CI
    • /
    • 제38권3호
    • /
    • pp.1-12
    • /
    • 2001
  • 본 논문에서는 순방향 2층 신경망의 연결강도(weight) 분포 특성을 분석한다. 일반적으로 신경망의 학습은 많은 시간이 소요되지만, 현재 학습 알고리즘으로는 새로운 문제가 주어질 때 이전에 수행된 학습 정보의 도움 없이 새로이 학습과정을 수행해야 하는 문제점이 있다. 본 논문에서는, 신경망의 학습을 주어진 문제를 해결할 수 있는 연결강도 공간(weight space)상의 한 점(point)을 찾는 과정으로 이해하고, 연결강도 공간에서 이러한 해(solution)가 되는 점들의 분포를 조사하여 이를 새로운 문제의 학습 시 초기 연결강도의 선정에 적용하는 방법을 제안한다, 제안된 연결강도 분포를 이용한 초기화 방법을 패턴분류 문제에 적용하였고, 기존의 무작위 초기화보다 학습 성능을 향상시킬 수 있음을 확인하였다.

  • PDF

제주도 동부 중산간지역 지하수위 예측에 적합한 인공신경망 모델의 활성화함수 연구 (A study on activation functions of Artificial Neural Network model suitable for prediction of the groundwater level in the mid-mountainous area of eastern Jeju island)

  • 신문주;김정훈;강수연;이정한;강경구
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.520-520
    • /
    • 2023
  • 제주도 동부 중산간 지역은 화산암으로 구성된 지하지질로 인해 지하수위의 변동폭이 크고 변동양상이 복잡하여 인공신경망(Artificial Neural Network, ANN) 모델 등을 활용한 지하수위의 예측이 어렵다. ANN에 적용되는 활성화함수에 따라 지하수의 예측성능은 달라질 수 있으므로 활성화함수의 비교분석 후 적절한 활성화함수의 사용이 반드시 필요하다. 본 연구에서는 5개 활성화함수(sigmoid, hyperbolic tangent(tanh), Rectified Linear Unit(ReLU), Leaky Rectified Linear Unit(Leaky ReLU), Exponential Linear Unit(ELU))를 제주도 동부 중산간지역에 위치한 2개 지하수 관정에 대해 비교분석하여 최적 활성화함수 도출을 목표로 한다. 또한 최적 활성화함수를 활용한 ANN의 적용성을 평가하기 위해 최근 널리 사용되고 있는 순환신경망 모델인 Long Short-Term Memory(LSTM) 모델과 비교분석 하였다. 그 결과, 2개 관정 중 지하수위 변동폭이 상대적으로 큰 관정은 ELU 함수, 상대적으로 작은 관정은 Leaky ReLU 함수가 지하수위 예측에 적절하였다. 예측성능이 가장 낮은 활성화함수는 sigmoid 함수로 나타나 첨두 및 최저 지하수위 예측 시 사용을 지양해야 할 것으로 판단된다. 도출된 최적 활성화함수를 사용한 ANN-ELU 모델 및 ANN-Leaky ReLU 모델을 LSTM 모델과 비교분석한 결과 대등한 지하수위 예측성능을 나타내었다. 이것은 feed-forward 방식인 ANN 모델을 사용하더라도 적절한 활성화함수를 사용하면 최신 순환신경망과 대등한 결과를 도출하여 활용 가능성이 충분히 있다는 것을 의미한다. 마지막으로 LSTM 모델은 가장 적절한 예측성능을 나타내어 다양한 인공지능 모델의 예측성능 비교를 위한 기준이 되는 참고모델로 활용 가능하다. 본 연구에서 제시한 방법은 지하수위 예측과 더불어 하천수위 예측 등 다양한 시계열예측 및 분석연구에 유용하게 사용될 수 있다.

  • PDF

역전파 학습 신경망을 이용한 한글 숫자 인식에 관한 연구 (A Study on the Handwritten Korean Numeric Recognition using a Backpropagation Learning Neural Network)

  • 박창민;박귀순;김대원;이동춘;김명원;배현주;차의영
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 1989년도 한글날기념 학술대회 발표논문집
    • /
    • pp.137-141
    • /
    • 1989
  • 본 논문에서는 신경망 구조의 한 모델인 feed-forward multi-layered network에 역전파 학습(back-propagation learning) 기법을 이용하여 필기체 한글 숫자를 인식하고 그 가능성을 보였다. 문자 인식에 있어 입력 대상의 모양이 왜곡되거나, 대상의 크기 혹은 위치의 변화 등과 같은 잡음 (noise)에 대해서 정확히 대상을 인식하는 데는 대상의 구조 추출에 크게 관여되므로 한글의 구조 추출에 적합하다고 생각되는 bar mask 투사법을 제안하였다. 모델의 학습을 필기체 한글 숫자 16자의 입력 패턴과 타겟 ( target) 입력의 쌍을 이용해 학습시켰다. 또한, 모델의 인식 정도를 측정해 보기 위해 시험패턴을 적용하여 훈련된 패턴과 훈련되지 않은 패턴간의 인식률을 비교하여 보았다.

  • PDF

신경망을 이용한 HSLA 강의 고온 유동응력 예측 및 통계방법과의 비교 (A Comparative Study of Material Flow Stress Modeling by Artificial Neural Networks and Statistical Methods)

  • 천명식;이준정
    • 대한기계학회논문집A
    • /
    • 제21권5호
    • /
    • pp.828-834
    • /
    • 1997
  • The knowledge of material stress-strain behavior is an essential requirement for design and analysis of deformation processes. Empirical stress-strain relationship and constitutive equations describing material behavior during deformation are being widely used, despite suffering some drawbacks in terms of ease of development, accuracy and speed. In the present study, back-propagation neural networks are used to model and predict the flow stresses of a HSLA steel under conditions of constant strain, strain rate and temperature. The performance of the network model is comparedto those of statistical models on rate equations. Well-trained network model provides fast and accurate results, making it superior to statistical models.

퍼지와 역전파신경망 기법을 사용한 터보프롭 엔진의 진단에 관한 연구 (Study on Fault Diagnostics of a Turboprop Engine Using Fuzzy Logic and BBNN)

  • 공창덕;임세명;김건우
    • 한국추진공학회지
    • /
    • 제15권2호
    • /
    • pp.1-7
    • /
    • 2011
  • 다양한 비행환경에서 장시간 체공하며 운용되는 UAV에서 추진시스템을 신뢰성 있게 운용하는 것은 매우 중요하다. 이런 UAV에 사용되는 터보프롭 엔진의 정확한 손상진단은 신뢰성과 이용률을 향상시킬 수 있다. 본 연구에서는 엔진 측정 파라미터들의 변화로부터 퍼지 이론을 적용하여 손상된 구성품을 식별한 후 훈련된 신경망 알고리즘을 식별된 손상 패턴에 적용하여 손상된 양을 정확히 진단할 수있는 방법을 제안하였다. 이렇게 제안된 진단 방법은 단일손상과 다중손상 모두 진단할 수 있다.

역전파 알고리즘을 이용한 FF-PID 제어 시스템 구현 (Realization for FF-PID Controlling System with Backward Propagation Algorithm)

  • 류재훈;허창우;류광렬
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2007년도 춘계종합학술대회
    • /
    • pp.171-174
    • /
    • 2007
  • 본 논문은 역전파 알고리즘을 이용한 FF-PID 제어 시스템 구현에 관한 연구이다. 영상의 인식은 신경망 역전파를 사용하여 학습시킨다. FF-PID 제어기는 신경망의 목표치에 대한 출력층 오차값을 제어값으로 사용하여 이동물체의 응답특성을 향상시킨다. 실험결과, 시스템의 응답시간은 약 2.7(sec)였으며, 일반적인 차영상기법에 비하여 약 15% 목표치 응답이 향상되어, 효과적인 이동물체의 제어가 가능하였다.

  • PDF

퍼지와 역전파신경망 기법을 사용한 터보프롭 엔진의 진단에 관한 연구 (Study on Fault Diagnostics of a Turboprop Engine Using Fuzzy Logic and BBNN)

  • 공창덕;임세명;김건우
    • 한국추진공학회:학술대회논문집
    • /
    • 한국추진공학회 2010년도 제35회 추계학술대회논문집
    • /
    • pp.499-505
    • /
    • 2010
  • 다양한 비행환경에서 장시간 체공하며 운용되는 UAV에서 추진시스템을 신뢰성 있게 운용하는 것은 매우 중요하다. 이런 UAV에 사용되는 터보프롭 엔진의 정확한 손상진단은 신뢰성과 이용률을 향상시킬 수 있다. 본 연구에서는 엔진 측정 파라미터들의 변화로부터 퍼지 이론을 적용하여 손상된 구성품을 식별한 후 훈련된 신경망 알고리즘을 식별된 손상 패턴에 적용하여 손상된 양을 정확히 진단할 수 있는 방법을 제안하였다. 이렇게 제안된 진단 방법은 단일손상과 다중손상 모두 진단할 수 있다.

  • PDF