• 제목/요약/키워드: regularization parameter

검색결과 93건 처리시간 0.023초

Inverse Problem Methodology for Parameter Identification of a Separately Excited DC Motor

  • Hadef, Mounir;Mekideche, Mohamed Rachid
    • Journal of Electrical Engineering and Technology
    • /
    • 제4권3호
    • /
    • pp.365-369
    • /
    • 2009
  • Identification is considered to be among the main applications of inverse theory and its objective for a given physical system is to use data which is easily observable, to infer some of the geometric parameters which are not directly observable. In this paper, a parameter identification method using inverse problem methodology is proposed. The minimisation of the objective function with respect to the desired vector of design parameters is the most important procedure in solving the inverse problem. The conjugate gradient method is used to determine the unknown parameters, and Tikhonov's regularization method is then used to replace the original ill-posed problem with a well-posed problem. The simulation and experimental results are presented and compared.

A MIXED NORM RESTORATION FOR MULTICHANNEL IMAGES

  • Hong, Min-Cheol;Cha, Hyung-Tae;Hahn, Hyun-Soo
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2000년도 제13회 신호처리 합동 학술대회 논문집
    • /
    • pp.399-402
    • /
    • 2000
  • In this paper, we present a regularized mixed norm multichannel image restoration algorithm. The problem of multichannel restoration using both within- and between- channel deterministic information is considered. For each channel a functional which combines the least mean squares (LMS), the least mean fourth(LMF), and a smoothing functional is proposed, We introduce a mixed norm parameter that controls the relative contribution between the LMS and the LMF, and a regularization parameter that defines the degree of smoothness of the solution, both updated at each iteration according to the noise characteristics of each channel. The novelty of the proposed algorithm is that no knowledge of the noise distribution for each channel is required, and the parameters mentioned above are adjusted based on the partially restored image.

  • PDF

Research on prediction and analysis of supercritical water heat transfer coefficient based on support vector machine

  • Ma Dongliang;Li Yi;Zhou Tao;Huang Yanping
    • Nuclear Engineering and Technology
    • /
    • 제55권11호
    • /
    • pp.4102-4111
    • /
    • 2023
  • In order to better perform thermal hydraulic calculation and analysis of supercritical water reactor, based on the experimental data of supercritical water, the model training and predictive analysis of the heat transfer coefficient of supercritical water were carried out by using the support vector machine (SVM) algorithm. The changes in the prediction accuracy of the supercritical water heat transfer coefficient are analyzed by the changes of the regularization penalty parameter C, the slack variable epsilon and the Gaussian kernel function parameter gamma. The predicted value of the SVM model obtained after parameter optimization and the actual experimental test data are analyzed for data verification. The research results show that: the normalization of the data has a great influence on the prediction results. The slack variable has a relatively small influence on the accuracy change range of the predicted heat transfer coefficient. The change of gamma has the greatest impact on the accuracy of the heat transfer coefficient. Compared with the calculation results of traditional empirical formula methods, the trained algorithm model using SVM has smaller average error and standard deviations. Using the SVM trained algorithm model, the heat transfer coefficient of supercritical water can be effectively predicted and analyzed.

적응적 정규화, 프루닝 및 BIC를 이용한 신경망 최적화 방법 (An Optimization Method of Neural Networks using Adaptive Regulraization, Pruning, and BIC)

  • 이현진;박혜영
    • 한국멀티미디어학회논문지
    • /
    • 제6권1호
    • /
    • pp.136-147
    • /
    • 2003
  • 주어진 문제에 대하여 최적의 성능을 가지는 신경회로망을 얻기 위해서는 학습을 통한 매개변수의 최적화 (parameter optimization)와 모델 선택을 통한 구조 최적화(structure optimization )의 통합적인 과정이 필요하다. 본 논문에서는, 각 세부 방법들의 특성을 고려하여, 공통의 특성을 갖는 방법들을 결합함으로써 효율적이면서도 일반화 성능을 높이는 총체적인 신경회로망 최적화 방법을 제안한다. 먼저 다양한 오차 함수를 사용할 수 있는 자연 기울기 강하 학습에 적응적 정규화 방법을 도입함으로써 가중치 매개변수(weight parameter)들을 최적화한다. 그리고 이렇게 최적화된 매개변수(parameter)들에 자연 프루닝(natural pruning)을 적용하여 불필요한 요소들을 제저하여 최적화 된 구조를 생성한다. 반복적인 과정에 의하여 후보 모델들을 구성하고 베이시안 정보 기준(Bayesian Information Criterion: BIC )을 이 용하여 최적의 모델을 평가하여 선택하는 방법을 제안하였다. 벤치마크 데이터에 대한 실험을 통하여 제안하는 방법의 구조 최적화 능력과 일반화 성능의 우수성을 보였다.

  • PDF

Adaptive lasso를 이용한 희박벡터자기회귀모형에서의 변수 선택 (Adaptive lasso in sparse vector autoregressive models)

  • 이슬기;백창룡
    • 응용통계연구
    • /
    • 제29권1호
    • /
    • pp.27-39
    • /
    • 2016
  • 본 논문은 다차원의 시계열 자료 분석에서 효율적인 희박벡터자기회귀모형에서의 모수 추정에 대해서 연구한다. 희박벡터자기회귀모형은 영에 가까운 계수를 정확이 영으로 둠으로써 희박성을 확보한다. 따라서 변수 선택과 모수 추정을 한꺼번에 할 수 있는 lasso를 이용한 방법론을 희박벡터자기회귀모형의 추정에 쓸 수 있다. 하지만 Davis 등(2015)에서는 모의실험을 통해 일반적인 lasso의 경우 영이아닌 계수를 참값보다 훨씬 더 많이 찾아 희박성에 약점이 있음을 보고하였다. 이에 따라 본 연구는 희박벡터자기회귀모형에 adaptive lasso를 이용하면 일반 lasso보다 희박성을 비롯한 전반적인 모수의 추정이 매우 유의하게 개선됨을 보인다. 또한 adaptive lasso에서 쓰이는 튜닝 모수들에 대한 선택도 아울러 논의한다.

정규화 혼합 Norm을 이용한 다중 채널 영상 복원 방식 (A Regularized Mixed Norm Multi-Channel Image Restoration Algorithm)

  • 홍민철;신요안;이원철
    • 한국통신학회논문지
    • /
    • 제29권2C호
    • /
    • pp.272-282
    • /
    • 2004
  • 본 논문에서는 정규화 혼합 norm을 이용한 다중 채널 영상 복원 기법을 제안한다. 채널 영상 간 및 채널 영상내의 결정론적 정보를 이용한 다중 채널 영상 복원에 관한 문제를 고려한다. 제안 방식에서는 각 채널 영상에 대해 LMS (Least Mean Square) 및 LMF (Least Mean Fourth) 및 완화 함수를 결합시킨 부가 함수가 제안된다. 더불어, LMS 및 LMF의 상대적 기여도를 제한하기 위한 혼합 norm 매개 변수 및 완화 함수의 중요성을 제어하는 정규화 매개 변수는 반복 영상으로부터 예측된 각 채널의 노이즈 분포에 의해 결정되어 진다. 제안된 방식은 각 채널 영상의 첨부 노이즈 형태에 대한 사전 정보 없이 복원 과정이 가능하다는 점과 두 매개 변수를 반복 과정에서 부분적으로 복원된 영상으로부터 조절할 수 있는 특성을 갖고 있다.

계층적 기저함수와 다해상도 영상을 이용한 영사응로부터 물체의 형상복구 (Shape from Shading using the Hierarchical basis Function and Multiresolution Images)

  • 이승배;이상욱;최종수
    • 전자공학회논문지B
    • /
    • 제29B권11호
    • /
    • pp.73-84
    • /
    • 1992
  • In this paper, an algorithm for recovering the 3-D shape from a single shaded image is proposed. In the proposed algorithm, by using the relation between the height and surface gradient (p, q), a set of linear equations is derived from the linearized reflectance function. Then the 3-D surface is recovered by employing the conjugate gradient technique. In order to improve the convergence speed of the solution, we also employ the hierarchical basis function and multiresolution images in the algorithm. A method for determining the regularization parameter, which is determined by trial and error in the conventional approach, is also introduced. In addition, the proposed algorithm attempts to recover the 3-D surface without requiring the boundary conditions, making it suitable for a real-time implementation. Simulation results for real image as well as synthetic image are provided to demonstrate the performance of the proposed algorithm.

  • PDF

The Doubly Regularized Quantile Regression

  • Choi, Ho-Sik;Kim, Yong-Dai
    • Communications for Statistical Applications and Methods
    • /
    • 제15권5호
    • /
    • pp.753-764
    • /
    • 2008
  • The $L_1$ regularized estimator in quantile problems conduct parameter estimation and model selection simultaneously and have been shown to enjoy nice performance. However, $L_1$ regularized estimator has a drawback: when there are several highly correlated variables, it tends to pick only a few of them. To make up for it, the proposed method adopts doubly regularized framework with the mixture of $L_1$ and $L_2$ norms. As a result, the proposed method can select significant variables and encourage the highly correlated variables to be selected together. One of the most appealing features of the new algorithm is to construct the entire solution path of doubly regularized quantile estimator. From simulations and real data analysis, we investigate its performance.

A Short-Term Wind Speed Forecasting Through Support Vector Regression Regularized by Particle Swarm Optimization

  • Kim, Seong-Jun;Seo, In-Yong
    • International Journal of Fuzzy Logic and Intelligent Systems
    • /
    • 제11권4호
    • /
    • pp.247-253
    • /
    • 2011
  • A sustainability of electricity supply has emerged as a critical issue for low carbon green growth in South Korea. Wind power is the fastest growing source of renewable energy. However, due to its own intermittency and volatility, the power supply generated from wind energy has variability in nature. Hence, accurate forecasting of wind speed and power plays a key role in the effective harvesting of wind energy and the integration of wind power into the current electric power grid. This paper presents a short-term wind speed prediction method based on support vector regression. Moreover, particle swarm optimization is adopted to find an optimum setting of hyper-parameters in support vector regression. An illustration is given by real-world data and the effect of model regularization by particle swarm optimization is discussed as well.

부화소 단위의 움직임 정보를 고려한 순차주사화 (Sub-pixel motion compensated deinterlacing technique)

  • 박민규;강문기
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2001년도 정기총회 및 학술대회
    • /
    • pp.143-146
    • /
    • 2001
  • HDTV(high-definition television)와 개인용 컴퓨터의 발전에 따라 비월주사(interlaced scanning) 방식의 신호와 순차주사(progressive scanning) 방식의 신호 상호간의 변환에 대한 요구가 점점 늘어나고 있다. 이에 따라 비월주사 방식을 순차주사 방식으로 바꾸어주는 순차주사화(deinterlacing)가 활발히 연구되고 있다. 본 논문에서는 부화소(sub-pixel) 단위의 움직임 정보를 고려한 영상재결합 방법을 기반으로 한 순차주사화 알고리즘을 제안한다. 그러나 국부 움직임이 있는 영역에서는 영상재결합이 효과적이지 않으므로 적절한 문턱값을 이용하여 이러한 영역을 결정하고 에지를 이용한 보간 방법으로 순차주사화 한다. 또한 잘못된 움직임 추정으로 야기되는 문제들을 해결하기 위해, 각 영역과 입력 영상에 따라 다른 움직임 에러를 고려해서 정규화 값(regularization parameter)을 결정함으로 움직임 에러를 효율적으로 제거하였다 제안된 방법은 주관적 측면과 객관적인 측면에서 모두 우수한 결과를 실험적으로 보였다.

  • PDF