• 제목/요약/키워드: Delta learning rule

검색결과 27건 처리시간 0.028초

신경망기법을 이용한 기업부실예측에 관한 연구

  • 정기웅;홍관수
    • 재무관리연구
    • /
    • 제12권2호
    • /
    • pp.1-23
    • /
    • 1995
  • 본 연구의 목적은 특정 금융기관의 주거래기업들에 대한 부실예측을 위해 주거래기업들을 잠식, 도산, 그리고 건전기업과 같이 세집단으로 구분하여 예측하고자 하며, 기업부실 예측력에 영향을 미치는 세 가지 요인으로서 표본구성, 투입 변수, 분석 기법의 관점에서 다음을 살펴보는 것이다. 첫째, 기업부실예측에서 전통적인 delta learning rule과 sigmoid함수를 사용한 역전파학습(신경망 I)과 이들의 변형형태인 normalized cumulative delta learning rule과 hyperbolic tangent함수를 사용한 역전파 학습(신경망 II)과의 예측력의 차이를 살펴보고 또한 이러한 두가지 신경망기법의 예측력을 MDA(다변량판별분석) 결과와 비교하여 신경망기법에 대한 예측력의 유용성을 살펴보고자 한다. 둘째, 세집단분류문제에서는 잠식, 도산, 건전기업의 구성비율이 위의 세가지 예측기법의 결과에 어떠한 영향을 미치는지를 살펴보고자 한다. 세째, 투입 변수선정은 기존연구 또는 이론을 바탕으로 연구자의 판단에 의해 선택하는 방법과 다수의 변수를 가지고 통계적기법에 의해 좋은 판별변수의 집합을 찾는 것이다. 본 연구에서는 이러한 방법들에 의해 선정된 투입변수들이 세가지 예측기법의 결과에 어떠한 영향을 미치는지를 살펴보고자 한다. 이러한 관점에서 본 연구의 실증분석 결과를 요약하면 다음과 같다. 1) 신경망기법이 두집단에서와 같이 세집단 분류문제에서도 MDA보다는 더 높은 예측력을 보였다. 2) 잠식과 도산기업의 수는 비슷하게 그리고 건전기업의 수는 잠식과 도산기업을 합한 수와 비슷하게 표본을 구성하는 것이 예측력을 향상하는데 도움이 된다고 할 수 있다. 3) 속성별로 고르게 투입변수로 선정한 경우가 그렇지 않은 경우보다 더 높은 예측력을 보였다. 4) 전통적인 delta learning rule과 sigmoid함수를 사용한 역전파학습 보다는 normalized cumulative delta learning rule과 hyperbolic tangent함수를 사용한 역전파 학습이 더 높은 예측력을 보였다. 이러한 현상은 두집단문제에서 보다 세집단문제에서 더 큰 차이를 나타내고 있다.

  • PDF

텔타규칙을 이용한 다단계 신경회로망 컴퓨터:Recognitron III (Multilayer Neural Network Using Delta Rule: Recognitron III)

  • 김춘석;박충규;이기한;황희영
    • 대한전기학회논문지
    • /
    • 제40권2호
    • /
    • pp.224-233
    • /
    • 1991
  • The multilayer expanson of single layer NN (Neural Network) was needed to solve the linear seperability problem as shown by the classic example using the XOR function. The EBP (Error Back Propagation ) learning rule is often used in multilayer Neural Networks, but it is not without its faults: 1)D.Rimmelhart expanded the Delta Rule but there is a problem in obtaining Ca from the linear combination of the Weight matrix N between the hidden layer and the output layer and H, wich is the result of another linear combination between the input pattern and the Weight matrix M between the input layer and the hidden layer. 2) Even if using the difference between Ca and Da to adjust the values of the Weight matrix N between the hidden layer and the output layer may be valid is correct, but using the same value to adjust the Weight matrixd M between the input layer and the hidden layer is wrong. Recognitron III was proposed to solve these faults. According to simulation results, since Recognitron III does not learn the three layer NN itself, but divides it into several single layer NNs and learns these with learning patterns, the learning time is 32.5 to 72.2 time faster than EBP NN one. The number of patterns learned in a EBP NN with n input and output cells and n+1 hidden cells are 2**n, but n in Recognitron III of the same size. [5] In the case of pattern generalization, however, EBP NN is less than Recognitron III.

  • PDF

Application of Neural Networks For Estimating Evapotranspiration

  • Lee, Nam-Ho
    • 한국농업기계학회:학술대회논문집
    • /
    • 한국농업기계학회 1993년도 Proceedings of International Conference for Agricultural Machinery and Process Engineering
    • /
    • pp.1273-1281
    • /
    • 1993
  • Estimation of daily and seasonal evaportranspiration is essential for water resource planning irrigation feasibility study, and real-time irrigation water management . This paper is to evaluate the applicability of neural networks to the estimation of evapotranspiration . A neural network was developed to forecast daily evapotranspiration of the rice crop. It is a three-layer network with input, hidden , and output layers. Back-propagation algorithm with delta learning rule was used to train the neural network. Training neural network wasconducted usign daily actural evapotranspiration of rice crop and daily climatic data such as mean temperature, sunshine hours, solar radiation, relative humidity , and pan evaporation . During the training, neural network parameters were calibrated. The trained network was applied to a set of field data not used in the training . The created response of the neural network was in good agreement with desired values. Evaluating the neural networ performance indicates that neural network may be applied to the estimation of evapotranspiration of the rice crop.

  • PDF

다중 신경망을 이용한 차량 번호판의 자동인식 시스템 (Automatic Recognition System for Number Plate of Car using Multi Neural Network)

  • 박상후;최규종;안두성
    • 동력기계공학회지
    • /
    • 제5권2호
    • /
    • pp.93-99
    • /
    • 2001
  • This paper presents the automatic recognition system for car number plate. In our country, two types of number plate pattern is used. The one is old type of number plate, the other is new type of number plate. To recognize both new and old type number plates, the system must have flexibility. Therefore, in this paper, automatic recognition system is developed by use of the neural network for good adaptation, good generalization, and modulation. And because the number plate is made of three codes, the multi neural network consists of three networks. Neural network is teamed by GDR(Generalized Delta learning Rule) and it is verified the effectiveness of the method through experimental results.

  • PDF

퍼지 시스템을 이용한 ADALINE의 학습 방식 (Learning Method of the ADALINE Using the Fuzzy System)

  • 정경권;김주웅;정성부;엄기환
    • 전자공학회논문지CI
    • /
    • 제40권1호
    • /
    • pp.10-18
    • /
    • 2003
  • 본 논문에서는 ADALINE의 학습을 위한 알고리즘을 제안하였다. 제안한 알고리즘은 직접 퍼지 논리 시스템을 이용하여 ADALINE의 연결강도를 조정하는 방식으로 퍼지 논리 시스템의 입력은 오차와 오차의 변화분이고, 출력은 연결강도 변화분이며, 각각의 연결강도는 스케일링 팩터만 다르게 하여 사용하였다. 제안한 알고리즘의 유용성을 확인하기 위하여 노이즈 제거와 인버티드 펜들럼 제어에 대하여 시뮬레이션과 실험을 수행하였다. Widrow-Hoff의 델타 규칙과 비교하였을 때 제안한 방식은 학습율을 선택할 필요도 없고, 성능이 우수함을 확인하였다.

신경망을 이용한 적응제어기의 추적 성능 평가 (Tracking performance evaluation of adaptive controller using neural networks)

  • 최수열;박재형;박선국
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
    • /
    • pp.1561-1564
    • /
    • 1997
  • In the study, simulation result was studied by connecting PID controller in series to the established Neural Networks Controller. Neural Network model is composed of two layers to evaluate tracking performance improvement. The reqular dynamic characteristics was also studied for the expected error to be minimized by using Widrow-Hoff delta rule. As a result of the study, We identified that tracking performance inprovement was developed more in case of connecting PID than Neural Network Contoller and that tracking plant parameter in 251 sample was approached rapidly case of time variable.

  • PDF

Improved Learning Algorithm with Variable Activating Functions

  • Pak, Ro-Jin
    • Journal of the Korean Data and Information Science Society
    • /
    • 제16권4호
    • /
    • pp.815-821
    • /
    • 2005
  • Among the various artificial neural networks the backpropagation network (BPN) has become a standard one. One of the components in a neural network is an activating function or a transfer function of which a representative function is a sigmoid. We have discovered that by updating the slope parameter of a sigmoid function simultaneous with the weights could improve performance of a BPN.

  • PDF

동적 역치 조정을 이용한 퍼지 단층 퍼셉트론 (Fuzzy Single Layer Perceptron using Dynamic Adjustment of Threshold)

  • 조재현;김광백
    • 한국컴퓨터정보학회논문지
    • /
    • 제10권5호
    • /
    • pp.11-16
    • /
    • 2005
  • 최근에 퍼지 이론을 인공 신경망에 접목하여 개선된 성능을 보이려는 경향이 많다. Goh는 퍼지단층 퍼셉트론 알고리즘과 일반적인 델타 규칙(Generalized delta rule)에 기반한 개선된 퍼지 퍼셉트론을 제안하여 Exclusive-OR(XOR) 문제 등을 해결하였다 그러나 이 방법은 계산량의 증가와 복잡한 영상인식에 적응하기에는 어려움이 있다. 논문에서는 동적 역치조정에 의한 개선된 퍼지 단층 퍼셉트론을 제안한다. 제안된 방법은 페턴인식의 벤치마크로 사용되는 XOR문제에 적용된다. 또한 영상 응용영역으로서 디지털 영상의 인식에 적용한다. 실험결과에서 항상 수렴하지는 않지만 그러나 제안된 모델은 학습시간의 개선과 높은 수렴율을 보였다.

  • PDF

패턴 분류를 위한 개선된 FCM 기반 하이브리드 네트워크 (Enhanced FCM-based Hybrid Network for Pattern Classification)

  • 김광백
    • 한국정보통신학회논문지
    • /
    • 제13권9호
    • /
    • pp.1905-1912
    • /
    • 2009
  • FCM 알고리즘은 입력 벡터와 각 클러스터의 유클리드 거리를 이용하여 구해진 소속도만를 비교하여 데이터를 분류하기 때문에 클러스터링 된 공간에서의 데이터들의 분포에 따라 바람직하지 못한 클러스터링 결과를 보일 수 있다. 이러한 문제점을 개선하기 위해 대칭적 성질을 이용하는 대칭성 측도에 퍼지 이론을 적용하여 군집간의 거리에 따른 변화와 군집 중심의 위치, 그리고 군집 형태에 따라 영향을 덜 받는 개선된 FCM이 제안되었다. 본 논문에서는 효과적으로 패턴을 분류하기 위해 개선된 FCM 알고리즘을 적용한 개선된 하이브리드 네트워크를 제안한다. 제안된 하이브리드 네트워크는 개선된 FCM 알고리즘을 입력층과 중간층의 학습구조 적용하고 중간층과 출력층의 학습 구조는 일반화된 델타 학습법을 적용한다. 제안된 방법의 인식 성능을 평가하기 위해 2차원 좌표 평면 상의 데이터를 기존의 Max_Min 신경망을 이용한 FCM 기반 RBF 네트워크와 FCM 기반 RBF 네트워크, HCM 기반 네트워크와 제안된 방법 간의 학습 및 인식 성능을 비교 및 분석하였다.

Piece-wise linear estimation of mechanical properties of materials with neural networks

  • Shin, Inho
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1992년도 한국자동제어학술회의논문집(국제학술편); KOEX, Seoul; 19-21 Oct. 1992
    • /
    • pp.181-186
    • /
    • 1992
  • Many real-world problems are concerned with estimation rather than classification. This paper presents an adaptive technique to estimate the mechanical properties of materials from acoustoultrasonic waveforms. This is done by adapting a piece-wise linear approximation technique to a multi-layered neural network architecture. The piece-wise linear approximation network (PWLAN) finds a set of connected hyperplanes that fit all input vectors as close as possible. A corresponding architecture requires only one hidden layer to estimate any curve as an output pattern. A learning rule for PWLAN is developed and applied to the acousto-ultrasonic data. The efficiency of the PWLAN is compared with that of classical backpropagation network which uses generalized delta rule as a learning algorithm.

  • PDF