• 제목/요약/키워드: dynamic learning rate

검색결과 95건 처리시간 0.021초

적응 뉴럴 컴퓨팅 방법을 이용한 동적 시스템의 특성 모델링 (Characteristics Modeling of Dynamic Systems Using Adaptive Neural Computation)

  • 김병호
    • 제어로봇시스템학회논문지
    • /
    • 제13권4호
    • /
    • pp.309-314
    • /
    • 2007
  • This paper presents an adaptive neural computation algorithm for multi-layered neural networks which are applied to identify the characteristic function of dynamic systems. The main feature of the proposed algorithm is that the initial learning rate for the employed neural network is assigned systematically, and also the assigned learning rate can be adjusted empirically for effective neural leaning. By employing the approach, enhanced modeling of dynamic systems is possible. The effectiveness of this approach is veri tied by simulations.

동적 GBFCM(Gradient Based FCM) 알고리즘 (Dynamic GBFCM(Gradient Based FCM) Algorithm)

  • 김명호;박동철
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1996년도 하계학술대회 논문집 B
    • /
    • pp.1371-1373
    • /
    • 1996
  • A clustering algorithms with dynamic adjustment of learning rate for GBFCM(Gradient Based FCM) is proposed in this paper. This algorithm combines two idea of dynamic K-means algorithms and GBFCM : learning rate variation with entropy concept and continuous membership grade. To evaluate dynamic GBFCM, we made comparisons with Kohonen's Self-Organizing Map over several tutorial examples and image compression. The results show that DGBFCM(Dynamic GBFCM) gives superior performance over Kohonen's algorithm in terms of signal-to-noise.

  • PDF

새로운 패션 의류 이미지 분류 (New Fashion Clothing Image Classification)

  • 신성윤;이현창;신광성;김형진;이재완
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 추계학술대회
    • /
    • pp.555-556
    • /
    • 2021
  • 우리는 패션 의류 이미지의 빠르고 정확한 분류를 달성하기 위해 최적화된 동적 붕괴 학습률과 개선된 모델 구조를 가진 딥 러닝 모델을 기반으로 하는 새로운 방법을 제안한다.

  • PDF

Deep Learning Machine Vision System with High Object Recognition Rate using Multiple-Exposure Image Sensing Method

  • Park, Min-Jun;Kim, Hyeon-June
    • 센서학회지
    • /
    • 제30권2호
    • /
    • pp.76-81
    • /
    • 2021
  • In this study, we propose a machine vision system with a high object recognition rate. By utilizing a multiple-exposure image sensing technique, the proposed deep learning-based machine vision system can cover a wide light intensity range without further learning processes on the various light intensity range. If the proposed machine vision system fails to recognize object features, the system operates in a multiple-exposure sensing mode and detects the target object that is blocked in the near dark or bright region. Furthermore, short- and long-exposure images from the multiple-exposure sensing mode are synthesized to obtain accurate object feature information. That results in the generation of a wide dynamic range of image information. Even with the object recognition resources for the deep learning process with a light intensity range of only 23 dB, the prototype machine vision system with the multiple-exposure imaging method demonstrated an object recognition performance with a light intensity range of up to 96 dB.

모멘트의 동적 변환에 의한 Kernel Relaxation의 성능과 RMSE (Performance and Root Mean Squared Error of Kernel Relaxation by the Dynamic Change of the Moment)

  • 김은미;이배호
    • 한국멀티미디어학회논문지
    • /
    • 제6권5호
    • /
    • pp.788-796
    • /
    • 2003
  • 본 논문에서는 순차적 학습 방법에서의 동적 모멘트를 제안한다. 동적 모멘트에서의 가변적인 모멘트를 이용하여 수렴 속도와 학습 성능을 향상시키며 회귀율에서도 이를 확인할 수 있다 제안된 학습 방법은 기존의 정적모멘트와는 달리 수렴 정도에 따라 현재의 학습에 과거의 학습률을 달리 반영하는 방법이다. 기존의 정적 상수로 정의된 모멘트가 전체 학습에 동등하게 영향을 주는 반면 제안된 동적모멘트를 이용한 학습 방법은 학습 수행에 따라 동적으로 모멘트를 변경함으로써 수렴 속도와 학습 성능을 효과적으로 제어할 수 있다. 이전의 분류문제와 회귀문제의 분리확인과는 달리 본 논문에서는 제안된 동적모멘트의 성능과 회귀율을 동시에 확인한다. 본 논문에서 사용한 회귀방법은 RMS 오류율을 사용하였으며 제안된 학습방법인 동적모멘트를 SVM(Support Vector Machine)의 순차 학습방법인 KA(Kernel Adatron)과 KR(Kernel Relaxation)에 적용하여 RMS 오류율을 확인하였다. 공정한 학습 성능 평가를 위해 신경망 분류기표준평가데이터인 SONAR 데이터를 이용하였으며 실험 결과 동적모멘트를 이용한 학습 성능과 수렴 속도 및 RMS 오류율이 정적모멘트를 이용한 학습방법보다 향상되었음을 확인하였다.

  • PDF

로봇 메니퓰레이터의 동력학 시각서보 (Dynamic Visual Servoing of Robot Manipulators)

  • 백승민;임경수;한웅기;국태용
    • 대한전기학회논문지:시스템및제어부문D
    • /
    • 제49권1호
    • /
    • pp.41-47
    • /
    • 2000
  • A better tracking performance can be achieved, if visual sensors such as CCD cameras are used in controling a robot manipulator, than when only relative sensors such as encoders are used. However, for precise visual servoing of a robot manipulator, an expensive vision system which has fast sampling rate must be used. Moreover, even if a fast vision system is implemented for visual servoing, one cannot get a reliable performance without use of robust and stable inner joint servo-loop. In this paper, we propose a dynamic control scheme for robot manipulators with eye-in-hand camera configuration, where a dynamic learning controller is designed to improve the tracking performance of robotic system. The proposed control scheme is implemented for tasks of tracking moving objects and shown to be robust to parameter uncertainty, disturbances, low sampling rate, etc.

  • PDF

동적 근사곡선을 이용한 자기조직화 지도의 수렴속도 개선 (Improved Speed of Convergence in Self-Organizing Map using Dynamic Approximate Curve)

  • 길민욱;김귀정;이극
    • 한국멀티미디어학회논문지
    • /
    • 제3권4호
    • /
    • pp.416-423
    • /
    • 2000
  • 기존 Kohonen의 자기조직화 지도(self-organizing feature map)는 학습시 많은 입력 패턴이 필요하며 이에 따른 학습 시간 역시 증가하는 단점이 있다. 이러한 단점을 보완하기 위해 B. Bavarian은 위상학적 위치에 따라 각기 다른 학습률(learning rate)을 갖도록 하였으나 자기조직화가 정밀하게 되지 않는 단점을 갖고 있다. 본 논문에서는 자기조직화 지도의 학습시 계산량이 많은 가우시안 함수를 근사곡선(approximate curve)으로 변형하여 수렴속도를 향상시켰고 학습 횟수에 따라 근사곡선의 폭을 동적으로 변화시킴으로써 자기조직화지도의 수렴도를 개선하였다.

  • PDF

3D-CNN에서 동적 손 제스처의 시공간적 특징이 학습 정확성에 미치는 영향 (Effects of Spatio-temporal Features of Dynamic Hand Gestures on Learning Accuracy in 3D-CNN)

  • 정영지
    • 한국인터넷방송통신학회논문지
    • /
    • 제23권3호
    • /
    • pp.145-151
    • /
    • 2023
  • 3D-CNN은 시계열 데이터 학습을 위한 딥 러닝 기법 중 하나이다. 이러한 3차원 학습은 많은 매개변수를 생성할 수 있으므로 고성능 기계학습이 필요하거나 학습 속도에 커다란 영향을 미칠 수 있다. 본 연구에서는 손의 동적인 제스처 동작을 시공간적으로 학습할 때, 3D-CNN 모델의 구조적 변화 없이 입력 영상 데이터의 시공간적 변화에 따른 학습 정확성을 분석함으로써, 3D-CNN을 이용한 동적 제스처 학습의 효율성을 높이기 위한 입력 영상 데이터의 최적 조건을 찾고자 한다. 첫 번째로 동적 손 제스처 영상 데이터에서 동적 이미지 프레임의 학습구간을 설정함으로써 제스처 동작간 시간 비율을 조정한다. 둘째로는 클래스간 2차원 교차 상관 분석을 통해 영상 데이터의 이미지 프레임간 유사도를 측정하여 정규화 함으로써 프레임간 평균값을 얻고 학습 정확성을 분석한다. 이러한 분석을 통하여, 동적 손 제스처의 3D-CNN 딥 러닝을 위한 입력 영상 데이터를 효과적으로 선택하는 두 가지 방법을 제안한다. 실험 결과는 영상 데이터 프레임의 학습구간과 클래스간 이미지 프레임간 유사도가 학습 모델의 정확성에 영향을 미칠 수 있음을 보여준다.

퍼지 동적 학습률 제어 기반 하이브리드 RBF 네트워크 (A Hybrid RBF Network based on Fuzzy Dynamic Learning Rate Control)

  • 김광백;박충식
    • 한국컴퓨터정보학회논문지
    • /
    • 제19권9호
    • /
    • pp.33-38
    • /
    • 2014
  • FCM 기반하이브리드 RBF 네트워크는 서로 다른 학습 구조가 결합된 혼합형 모델로서, 입력층과 중간층의 학습 구조는 FCM 알고리즘을 적용하고, 중간층과 출력층 사이의 학습 구조는 Max_Min 알고리즘을 적용한다. 입력층과 중간층의 학습시 입력 벡터와 중간층의 노드 중에서 중심과 입력 벡터간의 가장 가까운 노드를 승자 노드로 선택하여 출력층으로 전달한다. 그리고 중간층과 출력층 사이의 학습구조인 Max_Min 신경망은 중간층의 승자 뉴런이 입력벡터로 적용된다. 그러나 많은 패턴이 입력벡터로 제시될 경우에는 학습성능이 저하되는 단점이 있다. 따라서 본 논문에서는 중간층과 출력층의 학습 구조인 Max_Min 알고리즘의 학습 성능을 향상시키기 위해 퍼지 논리 시스템을 이용한 학습률 자동 조정 방법을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 0.1보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성의 총 개수를 퍼지 제어 시스템에 적용하여 학습률을 동적으로 조정한다. 제안된 방법의 학습 및 인식 성능을 평가하기 위해 컨테이너에서 추출한 숫자, 영문 식별자를 인식 및 성능평가 실험에 적용한 결과, 제안된 방법이 문자 패턴 인식에 효과적임을 확인할 수 있었다.

DRNN을 이용한 최적 난방부하 식별 (Optimal Heating Load Identification using a DRNN)

  • 정기철;양해원
    • 대한전기학회논문지:전력기술부문A
    • /
    • 제48권10호
    • /
    • pp.1231-1238
    • /
    • 1999
  • This paper presents an approach for the optimal heating load Identification using Diagonal Recurrent Neural Networks(DRNN). In this paper, the DRNN captures the dynamic nature of a system and since it is not fully connected, training is much faster than a fully connected recurrent neural network. The architecture of DRNN is a modified model of the fully connected recurrent neural network with one hidden layer. The hidden layer is comprised of self-recurrent neurons, each feeding its output only into itself. In this study, A dynamic backpropagation (DBP) with delta-bar-delta learning method is used to train an optimal heating load identifier. Delta-bar-delta learning method is an empirical method to adapt the learning rate gradually during the training period in order to improve accuracy in a short time. The simulation results based on experimental data show that the proposed model is superior to the other methods in most cases, in regard of not only learning speed but also identification accuracy.

  • PDF