• 제목/요약/키워드: delta learning rule

검색결과 27건 처리시간 0.028초

선형 활성화 함수를 이용한 개선된 퍼지 단층 퍼셉트론 (An Enhanced Fuzzy Single Layer Perceptron With Linear Activation Function)

  • 박충식;조재현;김광백
    • 한국정보통신학회논문지
    • /
    • 제11권7호
    • /
    • pp.1387-1393
    • /
    • 2007
  • 기존의 단층 퍼셉트론은 출력 노드가 선형 분리 가능한 패턴들만을 분류할 수 있고 XOR과 같은 비선형 문제에 대해서는 분류할 수 없는 단점이 있다. 퍼지 단층 퍼셉트론은 퍼지 소속 함수(Fuzzy Membership Function)를 적용하여 단층 구조로 XOR 문제와 같은 고전적인 문제를 개선하였다. 그러나 퍼지 단층 퍼셉트론은 기존의 단층 퍼셉트론과 마찬가지로 결정 경계선이 진동하는 경우가 생기며 초기 가중치의 범위와 학습률에 따라 수렴성이 매우 낮아지는 단점이 있다. 따라서 본 논문에서는 바이어스항을 도입하여 결정 경계선이 진동하는 것을 방지하여 수렴성을 개선시키고 선형 활성화 함수를 제안하고 학습률과 모멘텀 개념을 도입 한 개선된 델타규칙을 적용함으로써 학습 시간을 단축시키는 개선된 퍼지 단층 퍼셉트론 알고리즘을 제안한다. 제안된 방법과 퍼지 단층 퍼셉트론간의 학습 성능을 분석하기 위하여 인공 신경망에서 벤치마크로 사용되는 XOR 문제와 패턴 분류에 적용하여 Epoch 수와 수렴성을 비교한 결과, 제안된 방법이 기존의 퍼지 단층 퍼셉트론보다 학습 시간이 적게 소요되고 수렴성이 개선된 것을 확인하였다.

신경망이득 자동조절기를 이용한 유도모터 속도 제어 (The Speed Control of Induction Motor using Automatic Neural Network Gain Regulator)

  • 박왈서;김용욱;이성수
    • 조명전기설비학회논문지
    • /
    • 제20권7호
    • /
    • pp.53-57
    • /
    • 2006
  • PID 제어기는 산업자동화 설비에 널리 쓰이고 있다. 하지만 시스템 특성이 간헐 또는 연속적으로 변화할 때에 정밀제어를 위한 새로운 매개변수 결정이 쉽지 않다. 이를 해결하기 위한 방법으로 본 논문에서는 PID 제어기와 같은 기능을 갖는 신경망이득 자동조절기를 제안 하였다. 시스템의 적절한 궤환제어 이득은 델타 학습규칙에 의해서 결정된다. 제안된 신경망이득 자동조절기의 기능은 유도 전동기의 속도제어 실험에 의해 확인하였다.

Stochastic Morphological Sampling Theorem을 이용한 지능형 진화형 수신기 구현 (A Design of Intelligent and Evolving Receiver Based on Stochastic Morphological Sampling Theorem)

  • 박재현;이경록송문호김운경
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 1998년도 하계종합학술대회논문집
    • /
    • pp.46-49
    • /
    • 1998
  • In this paper, we introduce the notion of intelligent communication by introducing a novel intelligent receiver model. This receiver is continually evolving and learns and improves in performance as it compiles its experience over time. In digital communication context, in a typical training mode, it jearns the concept of "1" as is deteriorated by arbitrary (not necessarily additive as is typically assumed) disturbance and /or modulation. After learning "1", in test mode, it classifies the received signal "1" and "0" almost completely. The intelligent receiver as implemented is grounded on the recently introduced Stochastic Morphological Sampling Theorem(SMST), a distribution-free result which gives theoretical bounds on the sample complexity(training size) needed for the required performance parameters such as accuracy($\varepsilon$) and confidence($\delta$). Based on this theorem, we demonstrate --almost irrespective of channel and modulation model-- the number of samples needed to learn the concept of "1" is not too "large" and the resulting universal receiver structure, that corresponding to classical Nearest Neighbor rule in Pattern Recognition Theory, is trivial. We check the surprising efficiency and validity of this model through some simple simulations. and validity of this model through some simple simulations.

  • PDF

신경회로망을 이용한 수도 증발산량 예측 -백프로파게이션과 카운터프로파게이션 알고리즘의 적용- (Estimating Evapotranspiration of Rice Crop Using Neural Networks -Application of Back-propagation and Counter-propagation Algorithm-)

  • 이남호;정하우
    • 한국농공학회지
    • /
    • 제36권2호
    • /
    • pp.88-95
    • /
    • 1994
  • This paper is to evaluate the applicability of neural networks to the estimation of evapotranspiration. Two neural networks were developed to forecast daily evapotranspiration of the rice crop with back-propagation and counter-propagation algorithm. The neural network trained by back-propagation algorithm with delta learning rule is a three-layer network with input, hidden, and output layers. The other network with counter-propagation algorithm is a four-layer network with input, normalizing, competitive, and output layers. Training neural networks was conducted using daily actual evapotranspiration of rice crop and daily climatic data such as mean temperature, sunshine hours, solar radiation, relative humidity, and pan evaporation. During the training, neural network parameters were calibrated. The trained networks were applied to a set of field data not used in the training. The created response of the back-propagation network was in good agreement with desired values and showed better performances than the counter-propagation network did. Evaluating the neural network performance indicates that the back-propagation neural network may be applied to the estimation of evapotranspiration of the rice crop. This study does not provide with a conclusive statement as to the ability of a neural network to evapotranspiration estimating. More detailed study is required for better understanding and evaluating the behavior of neural networks.

  • PDF

신경망 자율 적응제어를 이용한 발전기의 전압제어 (Voltage Control of Generator using Neural Network Self Adaptative Control)

  • 박왈서;오훈;유석주;라성훈
    • 조명전기설비학회논문지
    • /
    • 제23권2호
    • /
    • pp.103-107
    • /
    • 2009
  • PI제어기는 발전기의 전압제어 시스템에 널리 쓰이고 있다. 하지만 발전 시스템의 특성이 연속적으로 변화할 때, 새로운 PI매개변수를 결정하는 것이 쉽지 않다. 이를 해결하기 위하여 본 논문에서는 발전기의 전압제어에 신경망자율 적응 제어를 이용하는 제어 방법을 제안하였다. 전압제어 시스템의 적절한 연속적인 궤환 제어 이득은 델타학습 규칙에 의해서 결정된다. 제안된 제어 방법의 기능은 직류 발전기 전압제어 실험에 의해 확인하였다.

공정개선을 위한 인공신경망의 실험적 적용에 관한 연구 (A Study on the Experimental Application of the Artificial Neural Network for the Process Improvement)

  • 한우철
    • 한국컴퓨터정보학회논문지
    • /
    • 제7권1호
    • /
    • pp.174-183
    • /
    • 2002
  • 본 연구에서는 자동화된 데이터의 수집과 자동화된 제조환경하에서 수행될 수 있는 공정관리도의 패턴양상에 대하여 인공지능의 대표적인 기법인 인공신경망을 이용하여 각 패턴의 인식과 이의 검증, 그리고 이상패턴의 발생상황을 모니터링할 수 있는 지능형 공정관리 시스템을 개발하는데 중점을 두었다 개발된 패턴인식시스템을 이용하여 공정의 상태를 관리하는 작업자의 부담을 한층 덜어줄 수 있으며 작업자는 공정에 이상패턴이 발생하는 경우에 패턴인식시스템을 통하여 공정상태에 대한 정보를 전달받을 수 있어서 지속적인 품질개선활동을 수행할 수 있게 된다.

  • PDF

The extension of the largest generalized-eigenvalue based distance metric Dij1) in arbitrary feature spaces to classify composite data points

  • Daoud, Mosaab
    • Genomics & Informatics
    • /
    • 제17권4호
    • /
    • pp.39.1-39.20
    • /
    • 2019
  • Analyzing patterns in data points embedded in linear and non-linear feature spaces is considered as one of the common research problems among different research areas, for example: data mining, machine learning, pattern recognition, and multivariate analysis. In this paper, data points are heterogeneous sets of biosequences (composite data points). A composite data point is a set of ordinary data points (e.g., set of feature vectors). We theoretically extend the derivation of the largest generalized eigenvalue-based distance metric Dij1) in any linear and non-linear feature spaces. We prove that Dij1) is a metric under any linear and non-linear feature transformation function. We show the sufficiency and efficiency of using the decision rule $\bar{{\delta}}_{{\Xi}i}$(i.e., mean of Dij1)) in classification of heterogeneous sets of biosequences compared with the decision rules min𝚵iand median𝚵i. We analyze the impact of linear and non-linear transformation functions on classifying/clustering collections of heterogeneous sets of biosequences. The impact of the length of a sequence in a heterogeneous sequence-set generated by simulation on the classification and clustering results in linear and non-linear feature spaces is empirically shown in this paper. We propose a new concept: the limiting dispersion map of the existing clusters in heterogeneous sets of biosequences embedded in linear and nonlinear feature spaces, which is based on the limiting distribution of nucleotide compositions estimated from real data sets. Finally, the empirical conclusions and the scientific evidences are deduced from the experiments to support the theoretical side stated in this paper.