• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1997.10a
• /
• pp.287-290
• /
• 1997

신경회로망은 높은 정확도의 학습 결과를 제시하는 장점을 가지고 있어서 패턴 인식을 포함한 여러 분야에서 널리 사용되어지고 있다. 그러나 신경회로망의 설계에 있어 최적의 뉴런과 층의 개수, 그리고 그 연결 등의 기하학적 해답을 제시하기가 어렵고, 서은이 우수하다고 알려진 역전파 학습 알고리즘도 오차가 없는 완벽한 학습 결과를 제시하지 못하며, 상당히 많은 학습 시간이 걸린다는 단점들을 가지고 있다. 이러한 단점들을 극복하기 위해 선형 신경회로망을 합성하는 새로운 방법을 제안하는데, 이진 함수 최소화(binary function minimization)과정을 거친 minimal-sum-of-product(MSP)를 통해서 이진 클래스 패턴(binary class pattem)을 표현 함으로써 오차가 없는 학습 결과를 얻을 수 있으며, 학습에 필요한 패턴과 학습에 걸리는 시간도 대폭 줄일수 있다. 본 논문에서는 유전자 알고리즘을 이용하여 선형 신경회로망을 합성하는 방법을 제안하며, 여러 가지 예제를 통해 제안한 방법의 우수성을 보인다.

• Journal of the Institute of Electronics Engineers of Korea CI
• /
• v.38 no.6
• /
• pp.26-37
• /
• 2001

In order to improve the several problems of the general backpropagation, we propose a method using a fuzzy logic system for automatic tuning of the activation function gain in the backpropagation. First, we researched that the changing of the gain of sigmoid function is equivalent to changing the learning rate, the weights, and the biases. The inputs of the fuzzy logic system were the sensitivity of error respect to the last layer and the mean sensitivity of error respect to the hidden layer, and the output was the gain of the sigmoid function. In order to verify the effectiveness of the proposed method, we performed simulations on the parity problem, function approximation, and pattern recognition. The results show that the proposed method has considerably improved the performance compared to the general backpropagation.

• Proceedings of the Korean Society for Noise and Vibration Engineering Conference
• /
• 1994.10a
• /
• pp.121-125
• /
• 1994

본 논문에서는 Hu에 의해 고안된 random 탐색법과 조합된 tabu 탐색법(radnom tabu 탐색법)을 결합계수를 구하는 학습 알고리즘으로 직접 사용하여 국소적 최적해에 수렴하는 것을 방지하고, 수렴정도를 개선하는 새로운 방법을 제안한다. 이 방법을 배타적 논리합 문제에 적용하여 역전파법 및 tabu 탐색법을 이용한 오차역전파법과 비교한다. 그리고, 각 파라메터가 오차함수의 수렴에 미치는 영향을 조사한다.

• Journal of the Korean Institute of Telematics and Electronics S
• /
• v.36S no.5
• /
• pp.70-77
• /
• 1999

본 논문에서는 Wavelet을 이용한 위장 영상의 질환 부위 특징을 추출하여 질환 부위 패턴을 인식할 수 있는 알고리즘을 제안하였다. 전처리 과정으로서 위장 영상이 형태정보는 입력 영상을 DWT(Discrete wavelet transform)에 의해 4레벨 DWT 계수 행렬을 구하고 계수 행렬의 특징에 따라 저주파 계수 행렬로부터 저주파 특징 파라미터 32개, 수평 고주파 계수 행렬로부터 수평 고주파 특징 파라미터 16개, 수직 고주파 계수 행렬로부터 수직 고주파 특징 파라미터 16개, 그리고, 대각 고주파 계수 행렬로부터 대각 고주파 특징 파라미터 32개 등 모두 96개의 특징 파라미터를 추출한 후 각각의 특징 파라미터를 최대 값+0.5로 최소 값을 -0.5로 정규화 하여 신경회로망의 입력 벡터로 사용하였다. 위장 영상 패턴 인식을 위한 신경회로망은 교사 학습을 요구하는 다층 구조의 오차 역전파(Error back propagation)알고리즘으로 하였고 구조적 특성을 이용하여 입력층, 중간층, 출력층의 계층 구조로 설계하였다. 설계된 신경회로망의 학습은 학습계수를 0.2로 모우멘텀을 0.6으로 설정하여 출력층 최대오차가 0.01보다 작을 때까지 수행하였으며 약 8000회 정도 학습한 결과 설정값 보다 작은 결과를 얻었고 질환의 종류나 위치, 크기에 관계없이 100%의 인식률을 얻었다.

• Proceedings of the Korean Society for Noise and Vibration Engineering Conference
• /
• 1995.10a
• /
• pp.280-283
• /
• 1995

계층형 신경회로망은 학습능력이나 비선형사상능력을 가지고 있고, 그 특징을 이용하여 패턴인식이나 동정 및 제어 등에의 적용이 시도되어 성과를 올리고 있다. 현재, 그 학습법으로 널리 이용되고 있는 것이 역전파학습법으로 최급 강하법이나 공액경사법 등의 최적화 방법이 적용되고 있지만, 학습에 많은 시간이 걸리는 점, 국소적 최적해(local minima)에 해의 수렴이 이루어져 오차가 충분히 작게 되지 않는 점 등이 문제점으로 지적되고 있다. 본 논문에서는 Hu에 의해 고안된 random 탐색법과 조합된 random tabu 탐색법으로 최적결합계수를 구하는 학습알고리즘으로, 국소적 최적해에 수렴하는 것을 방지하고, 수렴정도를 개선하는 새로운 방법을 이용하여 회전기계의 이상진동진단에 적용가능성을 검토하고 오차역전파법에 의한 진단결과와 비교검토한다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1998.10a
• /
• pp.330-340
• /
• 1998

자율주행 반송차가 주어진 경로를 따라 주행 할 때 주행면의 불균일성과 같은 외란요인과 자율반송차 시스템 자체의 비선형성 등으로 인하여 원치 않는 경로추종오차가 발생하게 되는데 본 연구에서는 이러한 경로추종오차를 최소화하기 위해서 신경회로망을 이용한 경로추종 오차 보상방법을 제안한다. 본 방법에서는 신경회로망을 통하여 조향각 보상량을 제공하므로써 경로추종오차를 보상한다. 신경망은 다층 퍼셉트론을 채용하였으며 역전파 알고리즘의 최급강하규칙(Gradient descent rule)을 이용하여 학습을 수행하였다. 본 제안에서는 학습오차를 경로추종오차로부터 정의하므로써 경로추종오차가 최소화되록 신경회로망을 학습시켰다. 제안된 방법의 타당성은 다양한 경로에 대한 모의실험 및 실제 실험을 통하여 검증하였다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2003.05a
• /
• pp.77-80
• /
• 2003

신경망의 퍼셉트론 학습법에는 이진 또는 연속 활성화 함수가 사용된다. 초기 연결강도는 임의의 값으로 설정하며, 목표치와 실제 출력과의 차이를 이용하는 것이 주된 특징이다. 즉 구해진 오차는 학습률에 따라서 다음 단계의 연결강도에 영향을 주게 된다. 이런 경우 학습률이 너무 크면 수렴성을 보장할 수 없으며, 반대로 너무 작게 선정하면 학습이 매우 느리게 진행되는 단점이 발생한다. 이런 이유로 능동적인 학습률의 변화는 신경망의 퍼셉트론 학습법에 중요한 관건이 리며, 주어진 문제를 최적으로 학습을 위해서는 결국 상황에 따른 적절한 학습률 조정이 필요하다. 본 논문에서는 학습률 조정에 퍼지 모델을 적용하는 신경망 학습 방법을 제안하고자 한다. 제안한 방법에 의한 학습은 오차의 변화에 따라 학습률을 조정하는 방식을 사용하였고, 그 결과 연결강도를 능동적으로 변화시켜 효과적인 학습 결과를 얻었다. 학습률 변화는 'Sugeno 퍼지 모델'을 이용하여 구현하였다.

• Journal of the Korean Institute of Telematics and Electronics C
• /
• v.35C no.6
• /
• pp.67-75
• /
• 1998

Although the nCE(n-th order cross-entropy) error function resolves the incorrect saturation problem of conventional EBP(error back-propagation) algorithm, the performance of MLP's (multilayer perceptrons) trained using the nCE function depends heavily on the order of the nCE function. In this paper, we propose an adaptive learning rate to make the performance of MLP's insensitive to the order of the nCE error. Additionally, we propose a limited error signal of output node to prevent unstable learning due to the adaptive learning rate. The effectiveness of the proposed method is demonstrated in simulations of handwritten digit recognition and thyroid diagnosis tasks.

• Proceedings of the Korea Institute of Convergence Signal Processing
• /
• 2005.11a
• /
• pp.373-376
• /
• 2005

본 논문에서는 이와 같은 요청에 부합되는 강인한 처지제어기를 얻고자, 다층 신경회로망을 이용하여 퍼지제어기 멤버쉽 함수의 전건부 및 후건부 파라미터들을 시스템에 알맞게 자기 조정하기 위해 최급구배법(Steepest Gradient Method)에 근거한 오차 역전파 알고리즘으로 적응 학습시킬 수 있는 뉴로-퍼지제어기 (Neuro-Fuzzy Control : NFC)의 구조 및 알고리즘을 제안하였다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2004.10a
• /
• pp.439-440
• /
• 2004

전력시스템의 부하주파수제어는 전력계통운용에 있어서 가장 중요하게 다루어야 한다. 본 논문에서는 강인한 퍼지제어기를 얻고자, 다층 신경회로망을 이용하여 퍼지제어기 멤버쉽 함수의 전건부 및 후건부 파라미터들을 시스템에 알맞게 자기 조정하기 위해 최급구배법에 근거한 오차 역전파 알고리즘으로 적응 학습시킬 수 있는 뉴로-퍼지제어기의 구조 및 알고리즘을 제안하였다.