• 제목/요약/키워드: nonlinear principal component analysis

검색결과 56건 처리시간 0.029초

Global and Local Views of the Hilbert Space Associated to Gaussian Kernel

  • Huh, Myung-Hoe
    • Communications for Statistical Applications and Methods
    • /
    • 제21권4호
    • /
    • pp.317-325
    • /
    • 2014
  • Consider a nonlinear transform ${\Phi}(x)$ of x in $\mathbb{R}^p$ to Hilbert space H and assume that the dot product between ${\Phi}(x)$ and ${\Phi}(x^{\prime})$ in H is given by < ${\Phi}(x)$, ${\Phi}(x^{\prime})$ >= K(x, x'). The aim of this paper is to propose a mathematical technique to take screen shots of the multivariate dataset mapped to Hilbert space H, particularly suited to Gaussian kernel $K({\cdot},{\cdot})$, which is defined by $K(x,x^{\prime})={\exp}(-{\sigma}{\parallel}x-x^{\prime}{\parallel}^2)$, ${\sigma}$ > 0. Several numerical examples are given.

조합형 학습알고리즘의 신경망을 이용한 데이터의 효율적인 특징추출 (An Efficient Extraction of Data Feature By Using Neural Networks of Hybrid Learning Algorithm)

  • 조용현;윤중환;박용수
    • 정보처리학회논문지B
    • /
    • 제8B권2호
    • /
    • pp.130-136
    • /
    • 2001
  • 본 논문에서는 새로운 학습알고리즘의 비선형 주요성분분석 신경망을 이용한 영상데이터의 효율적인 특징추출에 대하여 제안한다. 제안된 학습알고리즘에서는 최적해로 수렴하는 과정에서 발생할 수도 있는 진동을 억제하여 빠른 속도의 수렴이 가능하도록 하기 위해 모멘트를 이용하였고, 국소최적해를 만났을 때 이를 벗어난 전역최적해로의 수렴을 위한 새로운 연결가중치의 설정을 위하여 동적터널링을 이용함으로써 빠른 수렴속도로 전역최적해에 수렴되도록 학습시킬 수 있다. 제안된 학습알고리즘을 이용한 신경망을 256$\times$256 픽셀의 간암영상과 128$\times$128 픽셀의 얼굴영상을 대상으로 실험한 결과, 기울기하강의 학습알고리즘을 이용한 기존 비선형 주요성분분석 신경망보다 우수한 수렴성능과 특징추출성능이 있음을 확인 할 수 있었다.

  • PDF

인공 후각 센싱 시스템을 이용한 측정 가스의 Unsupervised clustering 방법의 구현 (Implementation of unsupervised clustering methods for measurement gases using artificial olfactory sensing system)

  • 최지혁;함유경;최찬석;김정도;변형기
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2000년도 제15차 학술회의논문집
    • /
    • pp.405-405
    • /
    • 2000
  • We designed the artificial olfactory sensing system (Electronic Nose) using MOS type sensor array fur recognizing and analyzing odour. The response of individual sensors of sensor array, each processing a slightly different response towards the sample volatiles, can provide enough information to discriminate between sample odours. In this paper, we applied clustering algorithm for dimension reduction, such as linear projection mapping (PCA method), nonlinear mapping (Sammon mapping method) and the combination of PCA and Sammon mapping having a better discriminating ability. The odours used are VOC (Volatile chemical compound) and Toxic gases.

  • PDF

주성분 회귀분석 및 인공신경망을 이용한 AE변수와 응력확대계수와의 상관관계 해석 (Analysis on Correlation between AE Parameters and Stress Intensity Factor using Principal Component Regression and Artificial Neural Network)

  • 김기복;윤동진;정중채;박휘립;이승석
    • 비파괴검사학회지
    • /
    • 제21권1호
    • /
    • pp.80-90
    • /
    • 2001
  • AE 신호와 재료의 기계적 물성과의 관계를 정량적으로 제시할 수 있는 방법을 개발하였다. 재료의 여러 가지 기계적 성질들 중 피로균열 거동에 관련된 응력확대계수를 중심으로 AE 신호와 같은 다변량 데이터의 처리에 많이 사용되고 있는 주성분 회귀분석과 비선형적 문제 해결에 적합한 신경회로망 기법을 이용하였다. 이를 위하여 강교량 부재인 SWS490B 강에 대한 피로균열전파 실험을 수행하였으며 표준 CT 시편에 대한 피로균열진전 시 발생하는 AE 신호의 각 변수와 응력확대계수와의 관계를 고찰하였다. 통계분석 방법인 변수선택법을 적용한 결과 AE 카운트(RC), 에너지(EN), 신호지속시간(ED)의 각각에 대한 유의성이 높은 것으로 나타났으나 전반적으로 전체 AE 변수를 모두 이용할 경우 통계적 유의성이 높은 것으로 나타났다. 부재의 반복하중 시 발생하는 피로균열진전을 정량적으로 도출할 수 있는 응력확대계수 추정모델을 개발하고 평가하였다. 미지 시료에 대하여 개발된 모델의 응력확대계수 예측 성능을 분석한 결과 주성분 회귀모델과 인공신경망 모델 모두 우수한 예측성능을 나타내었으나 전반적으로 인공신경망 모델이 주성분 회귀모델보다 다소 양호한 것으로 분석되었다.

  • PDF

공정 모니터링 기술의 최근 연구 동향 (Recent Research Trends of Process Monitoring Technology: State-of-the Art)

  • 유창규;최상욱;이인범
    • Korean Chemical Engineering Research
    • /
    • 제46권2호
    • /
    • pp.233-247
    • /
    • 2008
  • 공정 모니터링 기술은 공정 내에서 일어나는 예상치 못한 조업변화 및 이상을 조기에 감지하고 조업 이상에 영향을 끼친 근본 원인을 밝혀내어 제거해 줌으로써 공정의 안정적인 조업과 양질의 제품생산의 기반을 제공하여 준다. 데이터에 기반한 통계적 공정 모니터링 방법은 양질의 공정 데이터만 주어진다면 통계적 처리를 접목하여 비교적 쉽게 모니터링을 할 수 있고 공정의 데이터 분석에 이용할 수 있는 도구를 얻을 수 있다는 장점이 있다. 그러나 실제 공정에서는 비선형성, non-Gaussianity, 다중 운전모드, 공정상태변화로 인해 기존의 다변량 통계적 방법을 이용한 공정 모니터링 기법은 비효율적이거나, 공정 감시 성능의 저하, 종종 신뢰할 수 없는 결과를 야기한다. 이러한 경우 기존의 방법으로는 더이상 공정을 정확히 감시할 수 없기 때문에 최근에 많은 새로운 방법들이 개발 되었다. 본 총설에서는 이러한 단점을 보안하기 위해 최근 주목할 만한 연구결과인 공정 비선형성을 고려한 커널주성분분석(kernel principle component analysis) 모니터링 기법, 주성분분석 모델 조합을 이용한 다중모델(mixture model) 모니터링 기법, 공정 변화를 고려한 적응모델(adaptive model) 모니터링 기법, 그리고 센서 이상진단과 보정의 이론과 응용결과에 대하여 소개한다.

Comparative Study of Dimension Reduction Methods for Highly Imbalanced Overlapping Churn Data

  • Lee, Sujee;Koo, Bonhyo;Jung, Kyu-Hwan
    • Industrial Engineering and Management Systems
    • /
    • 제13권4호
    • /
    • pp.454-462
    • /
    • 2014
  • Retention of possible churning customer is one of the most important issues in customer relationship management, so companies try to predict churn customers using their large-scale high-dimensional data. This study focuses on dealing with large data sets by reducing the dimensionality. By using six different dimension reduction methods-Principal Component Analysis (PCA), factor analysis (FA), locally linear embedding (LLE), local tangent space alignment (LTSA), locally preserving projections (LPP), and deep auto-encoder-our experiments apply each dimension reduction method to the training data, build a classification model using the mapped data and then measure the performance using hit rate to compare the dimension reduction methods. In the result, PCA shows good performance despite its simplicity, and the deep auto-encoder gives the best overall performance. These results can be explained by the characteristics of the churn prediction data that is highly correlated and overlapped over the classes. We also proposed a simple out-of-sample extension method for the nonlinear dimension reduction methods, LLE and LTSA, utilizing the characteristic of the data.

고속철도차량 갱웨이 통로연결막의 최적설계 (Optimal Design of Gangway Connections for the High Speed Railway Vehicle)

  • 김철수
    • 한국산학기술학회논문지
    • /
    • 제15권7호
    • /
    • pp.4087-4092
    • /
    • 2014
  • 관절형 고속철도차량 갱웨이 통로연결막은 객차 끝단부 사이에 다양한 회전각 변위하에 통로의 기밀을 유지하는 이중 주름구조 고무부품이다. 비선형구조해석결과로부터 본 부품의 심각한 작용하중조건 중의 하나는 차량기지내 작은 곡선반경의 인입선 통과시 발생하는 혼합모드(롤링+요잉)회전 각변위조건이다. 본 연구에서는 고속철도차량 통로연결막의 안전성 향상 연구일환으로서, 통로연결막의 단면형상에 대하여 SIMP 기법을 이용하여 최적설계를 수행하였다. 비선형 구조해석결과로부터 본 최적설계안의 최대 주변형률은 혼합모드 및 롤링모드하에서 기존모델보다 각각 68% 및 39% 감소함을 확인하였다.

K-means 클러스터링 기반 소프트맥스 신경회로망 부분방전 패턴분류의 설계 : 분류기 구조의 비교연구 및 해석 (Design of Partial Discharge Pattern Classifier of Softmax Neural Networks Based on K-means Clustering : Comparative Studies and Analysis of Classifier Architecture)

  • 정병진;오성권
    • 전기학회논문지
    • /
    • 제67권1호
    • /
    • pp.114-123
    • /
    • 2018
  • This paper concerns a design and learning method of softmax function neural networks based on K-means clustering. The partial discharge data Information is preliminarily processed through simulation using an Epoxy Mica Coupling sensor and an internal Phase Resolved Partial Discharge Analysis algorithm. The obtained information is processed according to the characteristics of the pattern using a Motor Insulation Monitoring System program. At this time, the processed data are total 4 types that void discharge, corona discharge, surface discharge and slot discharge. The partial discharge data with high dimensional input variables are secondarily processed by principal component analysis method and reduced with keeping the characteristics of pattern as low dimensional input variables. And therefore, the pattern classifier processing speed exhibits improved effects. In addition, in the process of extracting the partial discharge data through the MIMS program, the magnitude of amplitude is divided into the maximum value and the average value, and two pattern characteristics are set and compared and analyzed. In the first half of the proposed partial discharge pattern classifier, the input and hidden layers are classified by using the K-means clustering method and the output of the hidden layer is obtained. In the latter part, the cross entropy error function is used for parameter learning between the hidden layer and the output layer. The final output layer is output as a normalized probability value between 0 and 1 using the softmax function. The advantage of using the softmax function is that it allows access and application of multiple class problems and stochastic interpretation. First of all, there is an advantage that one output value affects the remaining output value and its accompanying learning is accelerated. Also, to solve the overfitting problem, L2-normalization is applied. To prove the superiority of the proposed pattern classifier, we compare and analyze the classification rate with conventional radial basis function neural networks.

Modern vistas of process control

  • Georgakis, Christos
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1996년도 Proceedings of the Korea Automatic Control Conference, 11th (KACC); Pohang, Korea; 24-26 Oct. 1996
    • /
    • pp.18-18
    • /
    • 1996
  • This paper reviews some of the most prominent and promising areas of chemical process control both in relations to batch and continuous processes. These areas include the modeling, optimization, control and monitoring of chemical processes and entire plants. Most of these areas explicitly utilize a model of the process. For this purpose the types of models used are examined in some detail. These types of models are categorized in knowledge-driven and datadriven classes. In the areas of modeling and optimization, attention is paid to batch reactors using the Tendency Modeling approach. These Tendency models consist of data- and knowledge-driven components and are often called Gray or Hybrid models. In the case of continuous processes, emphasis is placed in the closed-loop identification of a state space model and their use in Model Predictive Control nonlinear processes, such as the Fluidized Catalytic Cracking process. The effective monitoring of multivariate process is examined through the use of statistical charts obtained by the use of Principal Component Analysis (PMC). Static and dynamic charts account for the cross and auto-correlation of the substantial number of variables measured on-line. Centralized and de-centralized chart also aim in isolating the source of process disturbances so that they can be eliminated. Even though significant progress has been made during the last decade, the challenges for the next ten years are substantial. Present progress is strongly influenced by the economical benefits industry is deriving from the use of these advanced techniques. Future progress will be further catalyzed from the harmonious collaboration of University and Industrial researchers.

  • PDF

패턴 인식문제를 위한 유전자 알고리즘 기반 특징 선택 방법 개발 (Genetic Algorithm Based Feature Selection Method Development for Pattern Recognition)

  • 박창현;김호덕;양현창;심귀보
    • 한국지능시스템학회논문지
    • /
    • 제16권4호
    • /
    • pp.466-471
    • /
    • 2006
  • 패턴 인식 문제에서 중요한 전처리 과정 중 하나는 특정을 선택하거나 추출하는 부분이다. 특정을 추출하는 방법으로는 PCA가 보통 사용되고 특정을 선택하는 방법으로는 SFS 나 SBS 등의 방법들이 자주 사용되고 있다. 본 논문은 진화 연산 방법으로써 비선형 최적화 문제에서 유용하게 사용되어 지고 있는 유전자 알고리즘을 특정 선택에 적용하는 유전자 알고리즘 특정 선택 (Genetic Algorithm Feature Selection: GAFS)방법을 개발하여 다른 특징 선택 알고리즘과의 비교를 통해 본 알고리즘의 성능을 관찰한다.