• 제목/요약/키워드: coordinate descent algorithm

검색결과 12건 처리시간 0.027초

유사가능도 기반의 네트워크 추정 모형에 대한 GPU 병렬화 BCDR 알고리즘 (BCDR algorithm for network estimation based on pseudo-likelihood with parallelization using GPU)

  • 김병수;유동현
    • Journal of the Korean Data and Information Science Society
    • /
    • 제27권2호
    • /
    • pp.381-394
    • /
    • 2016
  • 그래피컬 모형은 변수들 사이의 조건부 종속성을 노드와 연결선을 통하여 그래프로 나타낸다. 변수들 사이의 복잡한 연관성을 표현하기 위하여 그래피컬 모형은 물리학, 경제학, 생물학을 포함하여 다양한 분야에 적용되고 있다. 조건부 종속성은 공분산 행렬의 역행렬의 비대각 성분이 0인 것과 대응하는 두 변수의 조건부 독립이 동치임에 기반하여 공분산 행렬의 역행렬로부터 추정될 수 있다. 본 논문은 공분산 행렬의 역행렬을 희박하게 추정하는 유사가능도 기반의 CONCORD (convex correlation selection method) 방법에 대하여 기존의 BCD (block coordinate descent) 알고리즘을 랜덤 치환을 활용한 갱신 규칙과 그래픽 처리 장치 (graphics processing unit)의 병렬 연산을 활용하여 고차원 자료에 대하여 보다 효율적인 BCDR (block coordinate descent with random permutation) 알고리즘을 제안하였다. 두 종류의 네트워크 구조를 고려한 모의실험에서 제안하는 알고리즘의 효율성을 수렴까지의 계산 시간을 비교하여 확인하였다.

An Additive Sparse Penalty for Variable Selection in High-Dimensional Linear Regression Model

  • Lee, Sangin
    • Communications for Statistical Applications and Methods
    • /
    • 제22권2호
    • /
    • pp.147-157
    • /
    • 2015
  • We consider a sparse high-dimensional linear regression model. Penalized methods using LASSO or non-convex penalties have been widely used for variable selection and estimation in high-dimensional regression models. In penalized regression, the selection and prediction performances depend on which penalty function is used. For example, it is known that LASSO has a good prediction performance but tends to select more variables than necessary. In this paper, we propose an additive sparse penalty for variable selection using a combination of LASSO and minimax concave penalties (MCP). The proposed penalty is designed for good properties of both LASSO and MCP.We develop an efficient algorithm to compute the proposed estimator by combining a concave convex procedure and coordinate descent algorithm. Numerical studies show that the proposed method has better selection and prediction performances compared to other penalized methods.

Pliable regression spline estimator using auxiliary variables

  • Oh, Jae-Kwon;Jhong, Jae-Hwan
    • Communications for Statistical Applications and Methods
    • /
    • 제28권5호
    • /
    • pp.537-551
    • /
    • 2021
  • We conducted a study on a regression spline estimator with a few pre-specified auxiliary variables. For the implementation of the proposed estimators, we adapted a coordinate descent algorithm. This was implemented by considering a structure of the sum of the residuals squared objective function determined by the B-spline and the auxiliary coefficients. We also considered an efficient stepwise knot selection algorithm based on the Bayesian information criterion. This was to adaptively select smoothly functioning estimator data. Numerical studies using both simulated and real data sets were conducted to illustrate the proposed method's performance. An R software package psav is available.

Stable activation-based regression with localizing property

  • Shin, Jae-Kyung;Jhong, Jae-Hwan;Koo, Ja-Yong
    • Communications for Statistical Applications and Methods
    • /
    • 제28권3호
    • /
    • pp.281-294
    • /
    • 2021
  • In this paper, we propose an adaptive regression method based on the single-layer neural network structure. We adopt a symmetric activation function as units of the structure. The activation function has a flexibility of its form with a parametrization and has a localizing property that is useful to improve the quality of estimation. In order to provide a spatially adaptive estimator, we regularize coefficients of the activation functions via ℓ1-penalization, through which the activation functions to be regarded as unnecessary are removed. In implementation, an efficient coordinate descent algorithm is applied for the proposed estimator. To obtain the stable results of estimation, we present an initialization scheme suited for our structure. Model selection procedure based on the Akaike information criterion is described. The simulation results show that the proposed estimator performs favorably in relation to existing methods and recovers the local structure of the underlying function based on the sample.

퍼지 모델을 이용한 카메라 보정에 관한 연구 (Camera Calibration Using the Fuzzy Model)

  • 박민기
    • 한국지능시스템학회논문지
    • /
    • 제11권5호
    • /
    • pp.413-418
    • /
    • 2001
  • 본 논문에서는 기존에 사용한 물리적 카메라 모델 대신 퍼지 모델을 사용한 새로운 카메라 보정 방식을 제안한다. 카메라 보정은 카메라의 영상 좌표계와 실제 환경이 가지는 좌표계와의 관계를 규정하는 것으로, 퍼지 모델을 이용하는 방법은 기존의 방법에서 이용했던 물리적 변수들을 설정할 수는 없지만 카메라 보정의 목적인 카메라 좌표계와 실제 환경 좌표계와의 관계를 별다른 제약없이 규정할 수 있으므로 매우 간단하고 효율적인 카메라 보정 방법이다. 실제 실험을 통해 얻은 실공간상의 하나의 보정면 좌표에 대해 퍼지 모델링 방법을 이용하여 3차원 실 공간 좌표 및 2차원 영상좌표 예측을 통해 제안한 방법의 유효성을 보인다.

  • PDF

ORTHOGONAL DISTANCE FITTING OF ELLIPSES

  • Kim, Ik-Sung
    • 대한수학회논문집
    • /
    • 제17권1호
    • /
    • pp.121-142
    • /
    • 2002
  • We are interested in the curve fitting problems in such a way that the sum of the squares of the orthogonal distances to the given data points is minimized. Especially, the fitting an ellipse to the given data points is a problem that arises in many application areas, e.g. computer graphics, coordinate metrology, etc. In [1] the problem of fitting ellipses was considered and numerically solved with general purpose methods. In this paper we present another new ellipse fitting algorithm. Our algorithm if mainly based on the steepest descent procedure with the view of ensuring the convergence of the corresponding quadratic function Q(u) to a local minimum. Numerical examples are given.

Performance Optimization and Analysis on P2P Mobile Communication Systems Accelerated by MEC Servers

  • Liang, Xuesong;Wu, Yongpeng;Huang, Yujin;Ng, Derrick Wing Kwan;Li, Pei;Yao, Yingbiao
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제16권1호
    • /
    • pp.188-210
    • /
    • 2022
  • As a promising technique to support tremendous numbers of Internet of Things devices and a variety of applications efficiently, mobile edge computing (MEC) has attracted extensive studies recently. In this paper, we consider a MEC-assisted peer-to-peer (P2P) mobile communication system where MEC servers are deployed at access points to accelerate the communication process between mobile terminals. To capture the tradeoff between the time delay and the energy consumption of the system, a cost function is introduced to facilitate the optimization of the computation and communication resources. The formulated optimization problem is non-convex and is tackled by an iterative block coordinate descent algorithm that decouples the original optimization problem into two subproblems and alternately optimizes the computation and communication resources. Moreover, the MEC-assisted P2P communication system is compared with the conventional P2P communication system, then a condition is provided in closed-form expression when the MEC-assisted P2P communication system performs better. Simulation results show that the advantage of this system is enhanced when the computing capability of the receiver increases whereas it is reduced when the computing capability of the transmitter increases. In addition, the performance of this system is significantly improved when the signal-to-noise ratio of hop-1 exceeds that of hop-2.

자연스러운 자세 제어를 위한 귀납적 역운동학 알고리즘 (Inductive Inverse Kinematics Algorithm for the Natural Posture Control)

  • 이범로;정진현
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제8권4호
    • /
    • pp.367-375
    • /
    • 2002
  • 역운동학 알고리즘은 다관절체의 엔드 이펙터를 제어하기 위한 매우 유용한 방법이다. 대부분의 역운동학 처리 과정에서 주된 관심사는 다관절체가 가지는 자세의 형태 자체가 아니라 제어되는 다관절체의 엔드 이펙터의 위치와 방향이다. 그러나 삼차원 캐릭터 애니메이션과 같은 종류의 응용 분야에 있어서는 엔드 이펙터의 정확한 위치와 방향보다는 다관절체의 전체적으로 자연스러운 자세 자체가 훨씬 더 중요한 요소이다. 실제로 애니메이터가 기존의 역운동학 기법을 사용해서 인체와 같이 다수의 물리적인 제약조건을 가지는 인간형 삼차원 캐릭터의 자세를 자연스럽게 제어하기 위해서는 많은 시행착오를 겪어야만 하기 때문에 이를 보완하는 특별한 알고리즘이 요구된다. CCD(Cyclic Coordinate Descent) 알고리즘은 기하학적인 검색을 통해 원하는 위치에 엔드 이펙터를 위치시키는 해를 구하는 역운동학 방식의 하나로서 사용자 상호작용을 통한 다관절체의 자세 제어에 적합하다. 그러나 CCD 알고리즘의 해는 초기 자세에 강력하게 종속되어 있기 때문에 초기 자세에 따라서 서로 다른 많은 해들을 얻게 된다. 본 논문에서는 인간형 캐릭터의 자세 제어를 위해 균등 자세 지도를 이용한 귀납적 역운동학 알고리즘을 제안한다. 균등자세 지도의 학습 알고리즘은 인간의 다양한 자세를 왜곡 없이 양자화하기 때문에 균등 자세 지도를 이용해서 기술되는 모든 자세들은 사실적인 자세임을 보장한다. 그러므로 균등 자세 지도를 통해 계산된 다관절체의 엔드 이펙터가 원하는 삼차원 위치와 가장 가까운 자세를 추출해 냄으로써 자연스러운 자세를 가지는 역운동학의 결과를 얻을 수 있다. 이러한 방식은 키 프레임 기반 삼차원 캐릭터 애니메이션의 제작과 3차원 게임, 그리고 가상 현실 등의 분야에 유용하게 적용될 수 있다.

보완 라그랑지안 승수 기법을 이용한 연계전력시장 청산 (Interregional Market Coordination Using a Distributed Augmented Lagrangian Algorithm)

  • 문국현;김지희;주성관
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2008년도 제39회 하계학술대회
    • /
    • pp.532-533
    • /
    • 2008
  • 연계지역 전력시장 간의 에너지 거래는 전체 전력시장의 사회적 편익을 향상시키기 위해 이루어진다. 기존의 연계지역 전력시장 간시장 최적화 문제를 다루는 중앙처리 접근방식은 경쟁적 전력시장 환경하에서 적합한 모델이 아니다. 본 논문은 연계지역 전력시장 문제를 다루기 위해 보완 라그랑지안 승수 기법(Augmented Lagrangian Relaxation) 기반의 분산처리 최적화 방법을 제시한다. Block Coordinate Descent(BCD) 분산처리 기법이 보완 라그랑지안 승수의 최적화 문제를 분리하기 위해 적용된다. 연계시장 모델을 구현한 사례연구를 통해 제시된 알고리즘의 효용성을 입증한다.

  • PDF

센서 정보를 활용한 스마트폰 모션 인식 (Motion Recognition of Smartphone using Sensor Data)

  • 이용철;이칠우
    • 한국멀티미디어학회논문지
    • /
    • 제17권12호
    • /
    • pp.1437-1445
    • /
    • 2014
  • A smartphone has very limited input methods regardless of its various functions. In this respect, it is one alternative that sensor motion recognition can make intuitive and various user interface. In this paper, we recognize user's motion using acceleration sensor, magnetic field sensor, and gyro sensor in smartphone. We try to reduce sensing error by gradient descent algorithm because in single sensor it is hard to obtain correct data. And we apply vector quantization by conversion of rotation displacement to spherical coordinate system for elevated recognition rate and recognition of small motion. After vector quantization process, we recognize motion using HMM(Hidden Markov Model).