• The Journal of Korean Institute of Next Generation Computing
• /
• v.15 no.2
• /
• pp.7-16
• /
• 2019

Neural networks can be implemented in variety of ways, and specialized chips is being developed for hardware improvement. In order to apply such neural networks to wearable devices, the compactness and the low power operation are essential. In this point of view, a suitable implementation method is a digital circuit design using field programmable gate array (FPGA). To implement this system, the learning algorithm which takes up a large part in neural networks must be implemented within FPGA for better performance. In this paper, a back propagation algorithm among various learning algorithms is implemented using FPGA, and this neural network is verified by OR gate operation. In addition, it is confirmed that this neural network can be used to analyze various users' bio signal measurement results by learning algorithm.

• Proceedings of the KIEE Conference
• /
• 2001.11c
• /
• pp.431-434
• /
• 2001

단층 퍼셉트론이 처음 개발되었을 때, 간단한 패턴을 인식하는 학습 기능을 가지고 있기 장점 때문에 학자들의 관심을 끌었다. 단층 퍼셉트론은 한 개의 소자를 이용해서 이진 논리를 가중치(weight)의 변경만으로 모두 표현할 수 있는 장점 때문에 영상처리, 패턴인식, 장면인식 등에 이용되어 왔다. 최근에, 역전파학습(Back-Propagation Learning)알고리즘이 이진 공간내의 매핑 문제에 적용되고 있다. 그러나, 역전파 학습알고리즘은 연속공간 내에서 긴 학습시간과 비효율적인 수행의 문제를 가지고 있다. 일반적으로 역전파 학습 알고리즘은 간단한 이진 공간에서 매핑하기 위해서 많은 반복과정을 요구한다. 역전파 학습 알고리즘에서는 은닉층의 뉴런의 수는 주어진 문제를 해결하기 위해서 우선순위(prior)를 알지 못하기 때문에 입력층과 출력층내의 뉴런의 수에 의존한다. 따라서, 3층 신경회로망의 적용에 있어 가장 중요한 문제중의 하나는 은닉층내의 필요한 뉴런수를 결정하는 것이고, 회로망 합성과 가중치 결정에 대한 적절한 방법을 찾지 못해 실제로 그 사용 영역이 한정되어 있었다. 본 논문에서는 패턴 분류를 위한 새로운 학습방법을 제시한다. 훈련입력의 기하학적인 분석에 기반을 둔 이진 신경회로망내의 은닉층내의 뉴런의 수를 자동적으로 결정할 수 있는 NETLA(Newly Expand and Truncate Learning Algorithm)라 불리우는 기하학적 학습알고리즘을 제시하고, 시뮬레이션을 통하여, 제안한 알고리즘의 우수성을 증명한다.

• Proceedings of the KIEE Conference
• /
• 2004.11c
• /
• pp.361-363
• /
• 2004

시간 및 주파수 특성 분석이 용이한 웨이블릿을 신경회로망에 적용시킨 웨이블릿 신경 회로망의 파라미터 학습 방법에는 오차 역전파 알고리듬 및 유선 알고리듬 등 여러 가지 방법이 있으나 이러한 학습 방법들은 수렴 시간이 오래 걸리는 단점을 가진다. 따라서 본 논문에서는 웨이블릿 신경 회로망의 최적 파라미터를 결정하기 위한 학습 방법으로 일반적으로 비선형 시스템 추정에 주로 사용되는 확장 칼만 필터 알고리듬을 적용한 신경회로망을 제안한다. 또한 제안된 학습 알고리듬을 이용한 웨이블릿 신경 회로망으로 간접 적응 제어기를 설계하여 연속 시간 혼돈 시스템인 Duffing 시스템의 제어에 적용함으로써 확장 칼만 필터 학습 알고리듬을 적용한 웨이블릿 신경 회로망 모델의 우수성을 보인다.

• Proceedings of the KIEE Conference
• /
• 2004.07d
• /
• pp.2197-2199
• /
• 2004

시간 및 주파수 특성 분석이 용이한 웨이블릿 변환을 네트워크화 시킨 웨이블릿 신경 회로망의 파라미터 학습 방법에는 오차 역전파 알고리듬 및 유선 알고리듬 등이 있으나 이러한 학습 방법들은 수렴 시간이 오래 걸리는 단점이 있다. 따라서 본 논문에서는 웨이블릿 신경 회로망의 최적 파라미터를 결정하기 위한 학습방법으로 확장 칼만 필터 알고리듬을 제안한다. 일반적으로 확장 칼만 필터 알고리듬은 복잡한 연산 과정에 불구하고 적은 학습 횟수로 빠른 수렴 특성을 가진다. 제안한 방법의 효율성을 검증하기 위해 확장 칼만 필터 학습 방법을 적용한 웨이블릿 신경 회로망을 혼돈 시스템 동정에 적용하여 경사 하강법을 사용한 기존의 신경 회로망에 비해 더 양호한 성능을 가짐을 검증하고자 한다.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 1999.05a
• /
• pp.370-374
• /
• 1999

The proposed algorithm used the Hybrid teaming rule in the input and hidden layer, and Back-Propagation teaming rule in the hidden and output layer. From the results of simulation of tracking control with one link manipulator as a plant, we verify the usefulness of the proposed control method to compare with common direct adaptive neural network control method; proposed hybrid teaming rule showed faster loaming time faster settling time than the direct adaptive neural network using Back-propagation algorithm. Usefulness of the proposed control method is that it is faster the learning time and settling time than common direct adaptive neural network control method.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1995.10b
• /
• pp.258-263
• /
• 1995

본 논문은 일반화된 다중 수상돌기 적 (GMDP : Generalized Multi Dendrite Product) 유닛트 신경망을 이용한 PID 적응 위치제어기를 구성하여 직류 서어보 전동기의 위치제어를 실시간 처리 하였다. 제안한 제어기를 위치제어에 적용시켜 실험한 결과 기존의 MLP 신경망 제어기를 이용한 것 보다도 샘플시간을 줄일 수 있다는 장점으로 정밀한 제어 가 가능하다는 것을 확인할 수 있었다. 학습규칙은 기존의 역전파 학습방법이 GMDP 신경 회로망에 적용되었다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2000.05a
• /
• pp.27-30
• /
• 2000

본 논문에서는 선형 이진 신경회로망(Linear Binary Neural Network)을 이용하여 이진 영상으로부터 골격(skeleton)을 추출하는 병렬 구조를 제안하였다. 기존의 골격 추출 알고리즘으로부터 이진함수를 추출하고 이를 MSP Term Grouping Algorithm을 이용하여 학습시켰다. 결과에서는 기존의 역전파(Back-propagation) 학습알고리즘을 사용한 신경회로망보다 더 쉽게 하드웨어로 구현할 수 있음을 보여준다.

• Proceedings of the IEEK Conference
• /
• 1999.11a
• /
• pp.441-447
• /
• 1999

본 논문은 복잡 적응 시스템의 분석 및 모델링을 위해, 인공생명의 기본 패러다임인 셀룰라 오토마타를 선택하여, 무정형의 구조를 가지며 투명한 자료 전파 특성을 갖는 셀룰라 신경 회로망의 설계하고 개발하는데 중점을 두었다. 우선, 신경 회로망의 불규칙한 구조를 발생학적으로 다루어 무정형의 은닉층을 생성하고, 다윈의 진화론을 적용하여 구조적 진화 및 선택을 통해 최적화된 신경 회로망을 설계하였다. 주변 셀의 상태를 감지하여 자신의 상태를 수정해나가는 방식의 셀룰라 오토마타의 투명한 신호 전파 모델로 자료 및 오차의 역전파에 적용하도록 고안하였고, 라마르크의 용불용설을 활용한 오차의역전파 학습 알고리즘을 유도하였다. 이러한 복잡 적응계의 학습 과정을 유도하여 시뮬레이션에서 그 타당성을 입증하였다. 시뮬레이션에서는 신경 회로망의 XOR 문제와 다중 입력 다중 출력 함수에 대한 근사화 문제를 풀었다.

• The Journal of the Acoustical Society of Korea
• /
• v.21 no.6
• /
• pp.522-530
• /
• 2002

This paper introduces a neural network (NN) -based nonlinear predictor for the LP (Linear Prediction) residual. To evaluate the effectiveness of the NN-based nonlinear predictor for LP-residual, we first compared the average prediction gain of the linear long-term predictor with that of the NN-based nonlinear long-term predictor. Then, the effects on the quantization noise of the nonlinear prediction residuals were investigated for the NN-based nonlinear predictor A new NN predictor takes into consideration not only prediction error but also quantization effects. To increase robustness against the quantization noise of the nonlinear prediction residual, a constrained back propagation learning algorithm, which satisfies a Kuhn-Tucker inequality condition is proposed. Experimental results indicate that the prediction gain of the proposed NN predictor was not seriously decreased even when the constrained optimization algorithm was employed.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 1998.11a
• /
• pp.202-207
• /
• 1998

본 논문에서는 유전자 알고리즘을 이용하여 불확실한 비선형 시스템의 퍼지-신경 회로망 모델링을 제안하였다. 제안한 퍼지-신경 회로망 모델링을 위한 학습 알고리즘은 다음과 같은 세 단계로 나누어 진행한다. 첫 번째 단계에서는 퍼지 모델의 소속 함수의 중심간과 표준편차를 구하여 초기 퍼지소속 함수를 결정한다. 두 번째 단계에서는 새로운 알고리즘을 통하여 언어적 퍼지 규칙을 만든다. 마지막 세 번째 단계에서는 유전자 알고리즘을 이용하여 중심값과 표준편차를 최적화함으로써 퍼지 모델의 소속 함수를 조절한다. 제안된 유전자 알고리즘의 장점은 흔히 신경 회로망에서 널리 쓰이는 역전파 알고리즘이 갖는 지역 최소점에 빠지는 현상이 없다는 것이다. 제안한 알고리즘의 유용성을 확인하기 위하여 일반적으로 가장 많이 쓰이는 비선형 시스템에 대하여 시뮬레이션 하여 확인하였다.