• 제목/요약/키워드: The Least Squares Method

검색결과 1,469건 처리시간 0.029초

Shrinkage Structure of Ridge Partial Least Squares Regression

  • Kim, Jong-Duk
    • Journal of the Korean Data and Information Science Society
    • /
    • 제18권2호
    • /
    • pp.327-344
    • /
    • 2007
  • 다중공선성의 데이터에 사용되는 대표적인 편향회귀방법은 능형회귀(RR), 주성분회귀(PCR), 부분최소제곱회귀(PLS) 등이다. 이 회귀방법들은 계수베거 추정량의 놈(norm)이 모두 보통 최소제곱회귀(OLS)의 추정량의 놈보다 작아진다는 의미에서 축소회귀라 부른다. 새로운 회귀방법으로 RR과 PCR을 결합한 능형주성분회귀(RPCR)가 있고 RR과 PLS를 결합한 능형부분최소제곱회귀(RPLS)가 있으며 이들도 또한 축소회귀이다. 이들 추정량은 X'X의 고유벡터들의 선형결합으로 나타낼 수 있고 따라서 각 고유방향에서 OLS에 비해 얼마나 축소되는지를 연구할 수 있다. 본 논문에서는 먼저 이들 추정량을 일반적인 축소인자의 식으로 나타내고 이를 이용하여 MSE의 일반식을 구하였으며 PLS 추정량의 MSE 식도 구하였다. 그리고 RPLS의 축소인자 식을 두 가지 다른 형태로 유도하였다. RPLS의 경우도 이 축소인자 식을 MSE의 일반식에 대입하면 MSE 식이 바로 얻어진다. 그러나 PLS나 RPLS의 축소인자는 y의 복잡한 비선형이 되어 결정적이 아니므로 이들 추정량의 MSE는 근사적인 식이라 할 수 있다. 따라서 PLS나 RPLS를 평가하기 위해 이 MSE를 사용하는 것은 제한적이며, 경험적인 방법으로 이들 회귀의 수행성을 평가하는 것이 필요하다. 다중공선성의 대표적인 데이터인 근적외선 분광 데이터를 이용하여 이 유도된 회귀의 축소인자 값이 인자수에 따라 어떻게 변화하는지와 전체적인 축소 비율도 살펴보았다. 이들의 축소 형태를 잘 이해하면 회귀방법들의 예측력과 안정성을 파악하는데 많은 도움이 되리라 판단된다.

  • PDF

임의 중단모형에서 최소제곱법을 이용한 와이블분포의 모수 추정 (An Estimation of Parameters in Weibull Distribution Using Least Squares Method under Random Censoring Model)

  • 이우동
    • Journal of the Korean Data and Information Science Society
    • /
    • 제7권2호
    • /
    • pp.263-272
    • /
    • 1996
  • 임의의 기계에 대한 수명의 분포는 와이블분포를 하는 경우가 흔하다. 그리고 현실적으로 기계의 수명시간을 검정할 때, 시험시간및 여러 환경적인 제약에 의하여 표본으로 주어진 기계의 수명을 모두 관측하기는 어렵다. 그래서, 본 연구에서는 임의 중단모형 하에서 와이블분포의 모수를 최소제곱법(least squares method)을 이용하여 추정하고 기존의 최대우도추정량(maximum likelihood estimates)과 효율성의 측면에서 비교하고자 한다.

  • PDF

Cox proportional hazard model with L1 penalty

  • Hwang, Chang-Ha;Shim, Joo-Yong
    • Journal of the Korean Data and Information Science Society
    • /
    • 제22권3호
    • /
    • pp.613-618
    • /
    • 2011
  • The proposed method is based on a penalized log partial likelihood of Cox proportional hazard model with L1-penalty. We use the iteratively reweighted least squares procedure to solve L1 penalized log partial likelihood function of Cox proportional hazard model. It provide the ecient computation including variable selection and leads to the generalized cross validation function for the model selection. Experimental results are then presented to indicate the performance of the proposed procedure.

기하학적 보존을 만족하는 최소제곱법을 활용한 무격자 구조해석 기법 개발 (Development of Meshless Method Using Least-Squares Method with Geometric Conservation Law for Structural Dynamic Analysis)

  • 이상우;허진영;김규홍
    • 한국전산구조공학회논문집
    • /
    • 제36권1호
    • /
    • pp.67-74
    • /
    • 2023
  • A meshless technique using the geometric conservation least-squares method (GC-LSM) was devised to discretize the governing equation of linear elasticity. Although the finite-element method is widely used for structural analysis, a meshless method was developed because of its advantages in a moving grid system. This work is the preliminary phase for developing a fully meshless-based fluid-structure interaction solver. In this study, Cauchy's momentum equation was discretized in strong form using GC-LSM for the structural domain, and the Newmark beta method was used for time integration. The solver was validated in 1D, 2D, and 3D benchmarking problems. Static and dynamic results were obtained. The results are more accurate than those of analytic solutions.

확장된 이동최소제곱 유한차분법을 이용한 이동경계문제의 해석 (Analysis of Moving Boundary Problem Using Extended Moving Least Squares Finite Difference Method)

  • 윤영철;김도완
    • 한국전산구조공학회논문집
    • /
    • 제22권4호
    • /
    • pp.315-322
    • /
    • 2009
  • 본 논문은 확장된 이동최소제곱 유한차분법을 이용하여 1차원 Stefan 문제를 해석할 수 있는 새로운 수치기법이 제시한다. 이동하는 계면경계의 자유로운 수치적인 묘사를 위해 요소망이나 그리드 없이 절점만을 사용하는 이동최소제곱 유한차분법을 도입하고, 계면경계의 특이성을 모형화하기 위해 Taylor 다항식에 쐐기함수를 도입하여 확장했다. 지배방정식의 차분은 안정성을 보장해 주는 음해법(implicit method)을 이용한다. 이동경계를 포함한 반무한 융해문제, 실린더 형상의 고체화 문제의 수치해석을 통해 확장된 이동최소제곱 유한차분법이 높은 정확성과 효율성을 갖는 것을 보였다.

사영에 의한 혼합효과모형 (Mixed-effects model by projections)

  • 최재성
    • 응용통계연구
    • /
    • 제29권7호
    • /
    • pp.1155-1163
    • /
    • 2016
  • 본 논문은 혼합효과의 선형모형에서 분산성분들의 추정방법으로 사영을 다루고 있다. 상수적합법에서 이용되는 제곱합에서의 감소(reductions in sums of squares) 대신에 사영을 이용하여 구하는 방법을 제시하고 있다. 단계별 방법에 의한 잔차모형으로부터 각 분산성분의 추정과 관련된 사영행렬을 구성하는 방법을 제공하고 있다. 사영행렬로 표현되는 이차형식의 기댓값을 이용하여 선형방정식계를 구성하고 적률법으로 분산성분을 추정하게 된다. 고정효과는 가중최소제곱법으로 추정되고 분산성분의 신뢰구간추정에 Satterthwaite의 근사과정으로 자유도를 계산하는 방법을 설명하고 있다.

Fuzzy least squares polynomial regression analysis using shape preserving operations

  • Hong, Dug-Hun;Hwang, Chang-Ha;Do, Hae-Young
    • 한국지능시스템학회논문지
    • /
    • 제13권5호
    • /
    • pp.571-575
    • /
    • 2003
  • In this paper, we describe a method for fuzzy polynomial regression analysis for fuzzy input--output data using shape preserving operations for least-squares fitting. Shape preserving operations simplifies the computation of fuzzy arithmetic operations. We derive the solution using mixed nonlinear program.

대차 관성측정 장치에서 궤도틀림 추정을 위한 반복 최소자승법의 적용 (Application of Recursive Least Squares Method to Estimate Rail Irregularities from an Inertial Measurement Unit on a Bogie)

  • 이준석;최성훈;김상수;박춘수
    • 한국철도학회:학술대회논문집
    • /
    • 한국철도학회 2011년도 춘계학술대회 논문집
    • /
    • pp.427-434
    • /
    • 2011
  • This paper is focused on application of recursive least squares method to estimate rail irregularities from the acceleration measurement on an axle-box or a bogie for the rail condition monitoring with in-service high-speed trains. Generally, the rail condition was monitored by a special railway inspection vehicle but the monitoring method needs an expensive measurement system. A monitoring method using accelerometers on an axle-box or a bogie was already proposed in the previous study, and the displacement was successfully estimated from the acceleration data by using Kalman and frequency selective band-pass filters. However, it was found that the displacement included not only the rail irregularities but also phase delay of the applied filters, and effect of suspension of the bogie and conicity of the wheel. To identify the rail irregularities from the estimated displacement, a compensation filter method is proposed. The compensation filters are derived by using recursive least squares method with the estimated displacement as input and the measured rail irregularity as output. The estimated rail irregularities are compared with the true rail irregularity data from the rail inspection system. From the comparison, the proposed method is a useful tool for the measurement of lateral and vertical rail irregularity.

  • PDF

THE (R,S)-SYMMETRIC SOLUTIONS TO THE LEAST-SQUARES PROBLEM OF MATRIX EQUATION AXB = C

  • Liang, Mao-Lin;Dai, Li-Fang;Wang, San-Fu
    • Journal of applied mathematics & informatics
    • /
    • 제27권5_6호
    • /
    • pp.1061-1071
    • /
    • 2009
  • For real generalized reflexive matrices R, S, i.e., $R^T$ = R, $R^2$ = I, $S^T$ = S, $S^2$ = I, we say that real matrix X is (R,S)-symmetric, if RXS = X. In this paper, an iterative algorithm is proposed to solve the least-squares problem of matrix equation AXB = C with (R,S)-symmetric X. Furthermore, the optimal approximation solution to given matrix $X_0$ is also derived by this iterative algorithm. Finally, given numerical example and its convergent curve show that this method is feasible and efficient.

  • PDF

An Estimation of The Unknown Theory Constants Using A Simulation Predictor

  • 박정수
    • 한국시뮬레이션학회논문지
    • /
    • 제2권1호
    • /
    • pp.125-133
    • /
    • 1993
  • A statistical method is described for estimation of the unknown constants in a theory using both of the computer simulation data and the real experimental data, The best linear unbiased predictor based on a spatial linear model is fitted from the computer simulation data alone. Then nonlinear least squares estimation method is applied to the real experimental data using the fitted prediction model as if it were the true simulation model. An application to the computational nuclear fusion devices is presented, where the nonlinear least squares estimates of four transport coefficients of the theoretical nuclear fusion model are obtained.

  • PDF