• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1993.06a
• /
• pp.977.1-1000
• /
• 1993

This paper presents a fuzzy neural network, called the fuzzy counterpropagation network, that structures its inputs and generates its outputs in a manner based on counterpropagation networks. The fuzzy counterpropagation network is developed by incorporating the concept of fuzzy clustering into the hidden layer responses. Three learning algorithms are introduced for use with the proposed network. Simulations demonstrate that fuzzy counterpropagation networks with the proposed learning algorithms work well on approximating bipolar and continuous functions.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2007.10a
• /
• pp.422-426
• /
• 2007

CP(Counterpropagation) 알고리즘은 Kohonen의 경쟁 네트워크와 Grossberg의 아웃스타(outstar) 구조의 결합으로 이루어진 것으로 패턴 매칭, 패턴 분류, 통계적인 분석 및 데이터 압축 등 활용분야가 다양하고, 다른 신경망 모델에 비해 학습이 매우 빠르다는 장점이 있다. 하지만 CP 알고리즘은 충분한 경쟁층의 수가 설정되지 않아 경쟁층에서 학습이 불안정하고, 여권 코드와 같이 다양한 패턴으로 그성된 경우에는 패턴들을 정확히 분류할 수 없는 단점이 있다. 그리고 CP 알고리즘은 출력층에서 연결강도를 조정할 때, 학습률에 따라 학습 및 인식 성능이 좌우된다. 따라서 본 논문에서는 패턴 인식 성능을 개선하기 위해 다수의 경쟁층을 설정하고, 입력 벡터와 숭자 뉴런의 대표 벡터간의 차이와 숭자 뉴런의 빈도수를 학습률 조정에 반영하여 학습률을 동적으로 조정하여 경쟁층에서 안정적으로 학습되도록 하고, 출력층의 연결강도 조정시 이전 연결 강도 변화량을 반영하는 모멘텀(momentum)학습법을 적용한 개선된 CP 알고리즘을 제안한다. 학습 성능을 확인하기 위해서 실제 여권에서 추출된 개별 코드를 대상으로 실험한 결과, 본 논문에서 개선한 CP 알고리즘이 기존의 CP 알고리즘보다 패턴 분류의 정확성과 인식 성능이 개선된 것을 확인하였다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.12 no.9
• /
• pp.1682-1688
• /
• 2008

The Counterpropagation algorithm(CP) is a combination of Kohonen competition network as a hidden layer and the outstar structure of Grossberg as an output layer. CP has been used in many real applications for pattern matching, classification, data compression and statistical analysis since its learning speed is faster than other network models. However, due to the Kohonen layer's winner-takes-all strategy, it often causes instable learning and/or incorrect pattern classification when patterns are relatively diverse. Also, it is often criticized by the sensitivity of performance on the learning rate. In this paper, we propose an enhanced CP that has multiple Kohonen layers and dynamic controlling facility of learning rate using the frequency of winner neurons and the difference between input vector and the representative of winner neurons for stable learning and momentum learning for controlling weights of output links. A real world application experiment - pattern recognition from passport information - is designed for the performance evaluation of this enhanced CP and it shows that our proposed algorithm improves the conventional CP in learning and recognition performance.

• Journal of Biomedical Engineering Research
• /
• v.17 no.3
• /
• pp.395-401
• /
• 1996

In this paper a new neural network model, time delayed counterpropagation neural networks (TDCPN) which have high recognition rate and short total learning time, is proposed for electromyogram(EMG) recognition. Signals the proposed model increases the recognition rates after learned the regional temporal correlation of patterns using time delay properties in input layer, and decreases the learning time by using winner-takes-all learning rule. The ouotar learning rule is put at the output layer so that the input pattern is able to map a desired output. We test the performance of this model with EMG signals collected from a normal subject. Experimental results show that the recognition rates of the suggested model is better and the learning time is shorter than those of TDNN and CPN.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2008.05a
• /
• pp.359-365
• /
• 2008

CP(Counterpropagation)알고리즘은 서로 다른 두 개의 신경망이 하나로 결합 된 혼합형 모델로서, 다른 신경망 모델에 비해 비교적 단순하고 빠른 학습 속도를 보인다. 그러나 CP 알고리즘은 다양한 패턴이 입력되면 충분한 경쟁층의 수가 설정되지 않아 학습이 불안정하고, 출력층에서 연결강도를 조정할 때 일반적인 학습률 조정방법으로 불안정한 학습 결과를 보인다. 이러한 문제점을 해결하기 위해 다수의 경쟁층을 설정하여 경쟁층에서 패턴 분류의 정확성을 높이고, 입력 벡터와 승자 뉴런의 대표 벡터간의 차이와 승자 빈도수를 반영하여 학습률을 동적으로 조정하여 경쟁층에서의 학습이 안정적으로 진행되도록 하고, 출력층에서 연결강도를 조정할 때 모멘텀(momentum)학습법을 적용한 개선된 CP 알고리즘이 제안되었다. 본 논문에서는 개선된 CP 알고리즘에서 경쟁층의 수를 효율적으로 설정하기 위해 퍼지 제어 기법을 이용하여 경쟁층의 수를 결정하는 방법을 제안한다. 제안된 방법은 CP 알고리즘에 입력되는 패턴의 정보를 이용하여 퍼지 소속 함수를 설계하고 입력에 대한 소속도를 계산한 후, 퍼지 제어 규칙을 적용하고, Mamdani의 Min_Max 추론 방법으로 추론한다. 퍼지 추론을 통해 최종적으로 얻어진 값을 무게 중심법으로 비퍼지화 하여 최종적으로 개선된 CP 알고리즘의 경쟁층의 수를 결정하는데 적용한다. 제안된 방법의 학습 및 인식 성능을 평가하기 위해, 숫자, 영어 등과 같이 다양한 패턴을 실험에 적용한 결과, 제안된 방법이 경쟁층의 수를 결정하는데 효과적임을 확인할 수 있었다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.15 no.7
• /
• pp.1457-1464
• /
• 2011

In this paper, we go one step further in that the number of competitive layers is not determined by experience but can be determined by fuzzy control rules based on input pattern information. In our method, we design a set of membership functions and corresponding rules and used Max-Min reasoning proposed by Mamdani. Also, we use centroid method as a defuzzification. In experiment that has various patterns of English inputs, this new method works beautifully to determine the number of competitive layers and also efficient in overall accuracy as a result.