• The Transactions of the Korea Information Processing Society
• /
• v.2 no.5
• /
• pp.619-625
• /
• 1995

This paper constructs a feed-forward learning complex algorithm which replaced by the backpropagation learning. This algorithm first attempts to organize the pattern vectors into clusters by Generalized Learning Vector Quantization(GLVQ) clustering algorithm(Nikhil R. Pal et al, 1993), second, regroup the pattern vectors belonging to different clusters, and the last, recognize into regrouping pattern vectors by single layer perceptron. Because this algorithm is feed-forward learning algorithm, time is less than backpropagation algorithm and the recognition rate is increased. We use 250 ASCII code bit patterns that is normalized to 16$\times$8. As experimental results, when 250 patterns devide by 10 clusters, average iteration of each cluster is 94.7, and recognition rate is 100%.

• Proceedings of the Korean Information Science Society Conference
• /
• 2002.04b
• /
• pp.616-618
• /
• 2002

MLP(multilayer perceptron)는 다른 패턴인식 방법에 비해 몇 가지 이점이 있어 다양한 문제영역에서 사용되고 있다 그러나 MLP의 학습에 일반적으로 사용되는 EBP(error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있으며, 이는 실시간 처리를 요구하는 문제나 대규모 데이터 및 MLP 구조로 인해 학습시간이 상당히 긴 문제에서 제약으로 작용한다. 패턴인식에 사용되는 학습데이터는 풍부한 중복특성을 내포하고 있으므로 패턴마다 MLP의 내부변수를 갱신하는 은라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 EBP 알고리즘에서는 내부 가중치 갱신시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 응용에서 상당한 속도개선을 얻을 수 있지만, 학습률을 고정함으로써 온라인 방식에서 패턴별 갱신의 특성을 완전히 활용하지 못하는 비효율성이 발생한다. 또한, 학습도중 패턴군이 학습된 패턴과 그렇지 못한 패턴으로 나뉘고 이 가운데 학습된 패턴은 학습을 위한 계산에 포함될 필요가 없음에도 불구하고, 기존의 온라인 EBP에서는 에폭에 할당된 모든 패턴을 일률적으로 계산에 포함시킨다. 이 문제에 대해 본 논문에서는 학습이 진행됨에 따라 패턴마다 적절한 학습률을 적용하고 필요한 패턴만을 학습에 반영하는 패턴별 가변학습률 및 학습생략(COIL) 방댑을 제안한다. 제안한 COIL의 성능을 입증하기 위해 화자증명과 음성인식을 실험하고 그 결과를 제시한다.

• Proceedings of the KIEE Conference
• /
• 2001.07d
• /
• pp.2660-2662
• /
• 2001

Q-학습은 최근에 연구되는 강화학습으로서 환경에 대한 정의가 필요 없어 자율이동로봇의 행동학습에 적합한 방법이다. 그러나 다개체 시스템의 학습처럼 환경이 복잡해짐에 따라 개체의 입출력 변수는 늘어나게 되고 Q함수의 계산량은 기하급수적으로 증가하게 된다. 따라서 이러한 문제를 해결하기 위해 다개체 시스템의 Q-학습에 적합한 연속적인 Q-학습 알고리즘을 제안하였다. 연속적인 Q-학습 알고리즘은 개체가 가질 수 있는 모든 상태-행동 쌍을 하나의 Q함수에 표현하는 방법으로서 계산량 및 복잡성을 줄임으로써 동적으로 변하는 환경에 능동적으로 대처하도록 하였다. 제안한 연속적인 Q-학습 알고리즘을 벽으로 막힌 공간에서 두 포식자와 한 먹이로 구성되는 먹이-포식자 문제에 적용하여 먹이개체의 효율적인 회피능력을 검증하였다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2002.12a
• /
• pp.207-210
• /
• 2002

진화와 학습 사이의 상호 연관성을 연구하기 위해 인공 진화기법(artificial evolutionary algorithm)과 신경회로망(neural networks)을 이용한 학습 기법들이 사용되어 왔다. 신경 회로망 구조를 가지는 이동 로봇의 제어기의 구조와 파라미터를 결정하기 위한 방법으로 진화적 학습(evolutionary learning) 방법이 제안되었다. 제안된 방법에서 진화적 학습은 실제 로봇을 통해 on-line 방식으로 이루어지며, 장애물 회피 문제를 통해 유용성을 검증하고 진화 과정에 학습이 미치는 영향을 살펴보았다. 그리고 수학적으로 제시되기 힘든 진화 학습의 평가에 설계자의 개입을 허용하는 인터액티브 진화 알고리즘(interactive evolutionary algorithm)방법을 모색해 보았다.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 2017.07a
• /
• pp.384-385
• /
• 2017

과학 모델은 복잡한 자연현상을 단순화하고 패턴화한 것이다. 따라서 과학 모델은 특정한 알고리즘을 가지며, 과학 모델에 대한 이해는 모델이 갖는 특정한 알고리즘에 대한 이해와 직접적으로 관련되어있다. 본 연구에서는 많은 학생들이 대안 개념을 가지고 있는 산-염기를 주제로 하여, 이 모델이 가지는 알고리즘을 학습하기 위한 프로그램을 설계하고, 알고리즘을 학습 하였을 때 과학 학습에 미치는 효과를 확인하였다. 고등학생 3학년을 대상으로 4차시로 수업을 진행하였으며, 수업의 사전과 사후 검사를 실시하여, 학생들의 모델에 대한 이해를 분석하였다. 수업 결과, 학생들은 모델의 정의와 화학반응 및 화학평형의 정성적인 부분에서는 이해의 향상을 보였으나, 정량적인 부분에는 효과를 보이지 못하였다. 이는 화학이 많은 수의 입자를 고려해야 하는 독특한 과목의 특성에 기인하며, 이를 보완하기 위하여 추후 컴퓨터프로그램을 교육 도구로 사용하는 수업을 통해 후속연구를 진행하고자 한다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 1998.03a
• /
• pp.99-102
• /
• 1998

본 논문에서는 복잡하고 비선형적인 시스템의 최적 모델링을 우해서 지능형 퍼지-뉴럴네트워크의 최적 모델 구축을 위한 방법을 제안한다. 기본 모델은 퍼지 추론 시스템의 언어적인 규칙생성의 장점과 뉴럴 네트워크의 학습기능을 결합한 FNNs 모델을 사용한다. FNNs 모델의 퍼지 추론부는 간략추론이 사용되고, 학습은 요류 역전파 알고리즘을 사용하여 다른 모델들에 비해 학습속도가 빠르고 수렴능력이 우수하다. 그러나 기본 모델은 주어진 시스템에 대하여 퍼지 공간을 균등하게 분할하여 퍼지 소속을 정의한다. 이것은 비선형 시스템의 모델링에 있어어서 성능을 저하시켜 최적의 모델을 얻기가 어렵다. 논문에서는 주어진 데이터의 특성을 부여한 공간을 설정하기 위하여 클러스터링 알고리즘을 사용한다. 클러스터링 알고리즘은 주어진 시스템에 대하여 상호 연관성이 있는 데이터들끼리 특성을 나누어 몇 개의 클래스를 이룬다. 클러스터링 알고리즘을 사용하여 초기 FNNs 모델의 퍼지 공간을 나누고 소속함수를 정의한다. 또한, 최적화 기법중의 하나로 자연선택과 자연계의 유전자 메카니즘에 바탕을 둔 탐색 알고리즘인 유전자 알고리즘을 사용하여 주\ulcorner 진 모델에 대하여 최적화를 수행한다. 또한 본 연구에서는 학습 및 테스트 데이터의 성능 결과의 상호 균형을 얻기 위한 하중값을 가긴 성능지수가 제시된다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.11a
• /
• pp.442-445
• /
• 2023

최근 딥러닝 및 로봇기술의 발전으로 인해 대량의 데이터를 빠르게 수집하고 처리하는 연구 분야들로 확대되었다. 이와 관련된 한 가지 분야로써 다중 로봇을 이용한 분산학습 연구가 있으며, 이는 단일 에이전트를 이용할 때보다 대량의 데이터를 빠르게 수집 및 처리하는데 용이하다. 본 연구에서는 기존 Distributed Neural Network Optimization (DiNNO) 알고리즘에서 제안한 정적 분산 학습방법과 달리 단계적 분산학습 방법을 새롭게 제안하였으며, 모델 성능을 향상시키기 위해 원시 변수를 근사하는 단계수를 상수로 고정하는 기존의 방식에서 통신회차가 늘어남에 따라 점진적으로 근사 횟수를 높이는 방법을 고안하여 새로운 알고리즘을 제안하였다. 기존 알고리즘과 제안된 알고리즘의 정성 및 정량적 성능 평가를 수행하기 MNIST 분류와 2 차원 평면도 지도화 실험을 수행하였으며, 그 결과 제안된 알고리즘이 기존 DiNNO 알고리즘보다 동일한 통신회차에서 높은 정확도를 보임과 함께 전역 최적점으로 빠르게 수렴하는 것을 입증하였다.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2008.05a
• /
• pp.359-365
• /
• 2008

CP(Counterpropagation)알고리즘은 서로 다른 두 개의 신경망이 하나로 결합 된 혼합형 모델로서, 다른 신경망 모델에 비해 비교적 단순하고 빠른 학습 속도를 보인다. 그러나 CP 알고리즘은 다양한 패턴이 입력되면 충분한 경쟁층의 수가 설정되지 않아 학습이 불안정하고, 출력층에서 연결강도를 조정할 때 일반적인 학습률 조정방법으로 불안정한 학습 결과를 보인다. 이러한 문제점을 해결하기 위해 다수의 경쟁층을 설정하여 경쟁층에서 패턴 분류의 정확성을 높이고, 입력 벡터와 승자 뉴런의 대표 벡터간의 차이와 승자 빈도수를 반영하여 학습률을 동적으로 조정하여 경쟁층에서의 학습이 안정적으로 진행되도록 하고, 출력층에서 연결강도를 조정할 때 모멘텀(momentum)학습법을 적용한 개선된 CP 알고리즘이 제안되었다. 본 논문에서는 개선된 CP 알고리즘에서 경쟁층의 수를 효율적으로 설정하기 위해 퍼지 제어 기법을 이용하여 경쟁층의 수를 결정하는 방법을 제안한다. 제안된 방법은 CP 알고리즘에 입력되는 패턴의 정보를 이용하여 퍼지 소속 함수를 설계하고 입력에 대한 소속도를 계산한 후, 퍼지 제어 규칙을 적용하고, Mamdani의 Min_Max 추론 방법으로 추론한다. 퍼지 추론을 통해 최종적으로 얻어진 값을 무게 중심법으로 비퍼지화 하여 최종적으로 개선된 CP 알고리즘의 경쟁층의 수를 결정하는데 적용한다. 제안된 방법의 학습 및 인식 성능을 평가하기 위해, 숫자, 영어 등과 같이 다양한 패턴을 실험에 적용한 결과, 제안된 방법이 경쟁층의 수를 결정하는데 효과적임을 확인할 수 있었다.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.11 no.5
• /
• pp.406-412
• /
• 2001

In this paper, a new fuzzy single layer learning algorithm is proposed, which shows improved learning time and convergence property than that of the conventional fuzzy single layer perceptron algorithms. First, we investigate the structure of physiological neurons of the nervous system and propose new neuron structures based on fuzzy logic. And by using the proposed fuzzy neuron structures, the model and learning algorithm of Physiological Fuzzy Single Layer Perceptron(P-FSLP) are proposed. For the evaluation of performance of the P-FSLP algorithm, we applied the conventional fuzzy single layer perceptron algorithms and the P-FSLP algorithm to three experiments including Exclusive OR problem, the 3-bit parity bit problem and the recognition of car licence plates, which is an application of image recognition, and evaluated the performance of the algorithms. The experimentation results showed that the proposed P-FSLP algorithm reduces the possibility of local minima more than the conventional fuzzy single layer perceptrons do, and enhances the time and convergence for learning. Furthermore, we found that the P-FSLP algorithm has the great capability for image recognition applications.

• The Transactions of the Korea Information Processing Society
• /
• v.6 no.5
• /
• pp.1393-1402
• /
• 1999

This paper proposes an efficient principal feature extraction of the image data using neural networks of a new learning algorithm. The proposed learning algorithm is a backpropagation(BP) algorithm based on the steepest descent and dynamic tunneling. The BP algorithm based on the steepest descent is applied for high-speed optimization, and the BP algorithm based on the dynamic tunneling is also applied for global optimization. Converging to the local minimum by the BP algorithm of steepest descent, the new initial weights for escaping the local minimum is estimated by the BP algorithm of dynamic tunneling. The proposed algorithm has been applied to the 3 image data of 12${\times}$12pixels and the Lenna image of 128${\times}$128 pixels respectively. The simulation results shows that the proposed algorithm has better performances of the convergence and the feature extraction, in comparison with those using the Sanger method and the Foldiak method for single-layer neural networks and the BP algorithm for multilayer neural network.