• Communications for Statistical Applications and Methods
• /
• 제31권2호
• /
• pp.235-246
• /
• 2024

In high-dimensional data analysis, sufficient dimension reduction (SDR) has been considered as an attractive tool for reducing the dimensionality of predictors while preserving regression information. The principal support vector machine (PSVM) (Li et al., 2011) offers a unified approach for both linear and nonlinear SDR. This article comprehensively explores a variety of SDR methods based on the PSVM, which we call principal machines (PM) for SDR. The PM achieves SDR by solving a sequence of convex optimizations akin to popular supervised learning methods, such as the support vector machine, logistic regression, and quantile regression, to name a few. This makes the PM straightforward to handle and extend in both theoretical and computational aspects, as we will see throughout this article.

• Korean Chemical Engineering Research
• /
• 제60권2호
• /
• pp.223-228
• /
• 2022

화학공정에서 의도되지 않게 발생하는 이상은 큰 사고를 유발할 수 있다. 이러한 문제를 해결하기 위해, 신속하게 이상의 원인을 감지하고 판별하는 이상 진단 모델이 필요하다. 하지만, 이상 진단을 연구하는 대부분 연구의 경우, 상용프로그램에서 공정 시뮬레이션을 이용하여 이상 데이터를 생성하고 이를 이용하여 연구한 방법론을 적용하고 있다. 이는 실제 공정상에서 이상을 포함하는 실제 데이터를 얻는 데 많은 제약이 있음을 의미한다. 본 연구에서는 실제 폴리스티렌 반응기에서 얻은 이상 데이터와 정상 데이터를 분석하여 적절한 이상 진단 모델을 설계하고자 하였다. 먼저, 정상 데이터를 분석하여 세 가지의 조업 모드가 존재함을 확인하였으며, 모드 판별을 위한 모델을 SVM (Support Vector Machine)을 이용하여 만들었다. 각 조업 모드 별로 PCA (Principal Component Analysis)를 이용하여 이상 진단 모델을 만들었으며, 실제 이상 데이터를 이용하여 계산한 결과 신속하게 이상을 진단할 수 있음을 확인하였다. 본 연구에서 제안한 모델을 통해, 실제 사고가 발생하는 경우 신속한 대처가 가능하며, 이는 잠재적인 손실의 감소에 기여할 수 있음을 의미한다.

• Communications for Statistical Applications and Methods
• /
• 제20권6호
• /
• pp.491-498
• /
• 2013

We consider support vector machines(SVM) to predict Y with p numerical variables $X_1$, ${\ldots}$, $X_p$. This paper aims to build a biplot of p explanatory variables, in which the first dimension indicates the direction of SVM classification and/or regression fits. We use the geometric scheme of kernel principal component analysis adapted to map n observations on the two-dimensional projection plane of which one axis is determined by a SVM model a priori.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 2003년도 ICCAS
• /
• pp.1032-1035
• /
• 2003

The field of handwriting recognition has been researched for many years. A hybrid classifier has been proven to be able to increase the recognition rate compared with a single classifier. In this paper, we combine support vector machine (SVM) and hidden Markov model (HMM) for offline handwritten numeral recognition. To improve the performance, we extract features adapted for each classifier and propose the modified SVM decision structure. The experimental results show that the proposed method can achieve improved recognition rate for handwritten numeral recognition.

• 정보처리학회논문지B
• /
• 제15B권4호
• /
• pp.285-292
• /
• 2008

색상 히스토그램은 영상의 색상 특징을 표현하기 위한 특징 벡터로 빈번히 사용되지만, 고차원의 특징 벡터를 생성하므로 효율성의 면에서 한계점을 갖고 있다. 본 논문에서는 주어진 차량 영상의 색상 히스토그램에 PCA (principal components analysis) 기법을 적용하여 특징 벡터의 차원을 축소시키는 방법을 제안한다. 차원이 축소된 특징 벡터들에 대해서는 SVM (support vector machine) 기법을 적용하여 차량 색상을 인식하기 위해 사용한다. 특징 벡터의 차원을 1/32로 축소한 결과, 차원이 축소되기 이전의 특징 벡터와 비교하여 약 1.42%의 미소한 차이로 색상 인식 성공률이 감소하였다. 또한, 색상 인식의 수행 시간은 1/31로 단축됨으로써 효율적으로 색상 인식을 수행할 수 있었다.

• International Journal of Fuzzy Logic and Intelligent Systems
• /
• 제12권1호
• /
• pp.1-5
• /
• 2012

Data reduction has been used widely in data mining for convenient analysis. Principal component analysis (PCA) and factor analysis (FA) methods are popular techniques. The PCA and FA reduce the number of variables to avoid the curse of dimensionality. The curse of dimensionality is to increase the computing time exponentially in proportion to the number of variables. So, many methods have been published for dimension reduction. Also, data augmentation is another approach to analyze data efficiently. Support vector machine (SVM) algorithm is a representative technique for dimension augmentation. The SVM maps original data to a feature space with high dimension to get the optimal decision plane. Both data reduction and augmentation have been used to solve diverse problems in data analysis. In this paper, we compare the strengths and weaknesses of dimension reduction and augmentation for classification and propose a classification method using data reduction for classification. We will carry out experiments for comparative studies to verify the performance of this research.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2011년도 추계학술발표대회
• /
• pp.434-437
• /
• 2011

차세대 지능적 무기체계의 자동화를 목표로 SAR(Synthetic Aperture Radar) 영상 신호를 이용한 표적 인식률 향상을 위한 여러가지 방법들이 제안되어 왔다. 기존의 연구들은 SAR 영상의 고차원 특징을 그대로 사용했기 때문에 표적 인식의 성능저하가 있었다. 본 연구에서는 정보 획득 거리가 길고, 날씨에 제약이 없이 전천후 작전 운용이 가능하도록 레이더의 특징과 고해상도 영상을 결합한 SAR 이미지를 이용한 표적 인식률 향상 방법을 제안한다. 효과적인 표적 인식을 하기위해 고차원의 특징벡터를 저차원의 특징벡터로 축소하는 PCA(Principal Component Analysis)를 기반으로 하는 SVM(Support Vector Machine)을 사용한 표적 인식 기법을 사용하였고, PCA 기반의 SVM 분류기를 이용한 표적 인식이 SVM 만을 사용한 표적 인식보다 향상된 성능을 보인 것을 확인하였다.

• 한국지능시스템학회논문지
• /
• 제18권3호
• /
• pp.297-305
• /
• 2008

최근들어, 커널 기법(kernel method)은 패턴 분류, 함수 근사 및 비정상 상태 탐지 등의 분야에서 상당한 관심을 끌고 있다. 특히, 서포트 벡터 머신(support vector machine)이나 커널 주성분 분석(kernel principal component analysis) 등의 방법론에서 커널의 역할은 매우 중요한데, 이는 고전적인 선형 머신이 비선형성을 효과적으로 다룰 수 있도록 일반화 해줄 수 있기 때문이다. 본 논문에서는 커널 기반 가우시안 프로세스(gaussian process) 함수근사 기법과 서포트 벡터 학습을 이용하여 레이더와 강우계의 관측 데이터를 융합하는 문제를 고려한다. 그리고, 국내의 강원, 경북 및 충북에 걸쳐있는 지역에 대한 레이더 자료 및 강우계 자료를 대상으로 하여 본 논문에서 고려하는 방법론들에 의해 데이터 융합을 수행한 결과를 제시하고, 성능비교를 수행한다.

• Smart Structures and Systems
• /
• 제6권4호
• /
• pp.405-421
• /
• 2010

This paper proposes a method for early warning of hazard for pipelines. Many pipelines transport dangerous contents so that any damage incurred might lead to catastrophic consequences. However, most of these damages are usually a result of surrounding third-party activities, mainly the constructions. In order to prevent accidents and disasters, detection of potential hazards from third-party activities is indispensable. This paper focuses on recognizing the running of construction machines because they indicate the activity of the constructions. Acoustic information is applied for the recognition and a novel pipeline monitoring approach is proposed. Principal Component Analysis (PCA) is applied. The obtained Eigenvalues are regarded as the special signature and thus used for building feature vectors. One-class Support Vector Machine (SVM) is used for the classifier. The denoising ability of PCA can make it robust to noise interference, while the powerful classifying ability of SVM can provide good recognition results. Some related issues such as standardization are also studied and discussed. On-site experiments are conducted and results prove the effectiveness of the proposed early warning method. Thus the possible hazards can be prevented and the integrity of pipelines can be ensured.

• Journal of the Korean Data and Information Science Society
• /
• 제27권2호
• /
• pp.549-557
• /
• 2016

In this paper we propose multiclassification method for large data sets by ensembling least squares support vector machines (LS-SVM) with principal components instead of raw input vector. We use the revised one-vs-all method for multiclassification, which is one of voting scheme based on combining several binary classifications. The revised one-vs-all method is performed by using the hat matrix of LS-SVM ensemble, which is obtained by ensembling LS-SVMs trained using each random sample from the whole large training data. The leave-one-out cross validation (CV) function is used for the optimal values of hyper-parameters which affect the performance of multiclass LS-SVM ensemble. We present the generalized cross validation function to reduce computational burden of leave-one-out CV functions. Experimental results from real data sets are then obtained to illustrate the performance of the proposed multiclass LS-SVM ensemble.