• 제목/요약/키워드: PCA-LDA

검색결과 142건 처리시간 0.03초

사전 클러스터링을 이용한 LDA-확장법들의 최적화 (On Optimizing LDA-extentions Using a Pre-Clustering)

  • 김상운;구범용;최우영
    • 전자공학회논문지CI
    • /
    • 제44권3호
    • /
    • pp.98-107
    • /
    • 2007
  • 얼굴인식 등과 같은 고차원 패턴인식에서 학습패턴의 수가 패턴 차원에 비해 매우 적을 경우 희소성 문제(the Small Sample Size problem)가 발생한다. 최근 이 문제를 해결하기 위하여 LDA, PCA+LDA, Direct-LDA 등을 비롯한 다양한 LDA-확장 법이 제안되었다. 본 논문에서는 LDA-확장 법으로 차원을 축소하기 전에 학습 패턴을 사전 클러스터링하여 서브 클래스 수를 증가시키는 방법으로 LDA-확장에 기반을 둔 식별기의 성능을 향상시키는 방법을 제안한다. LDA (또는 Direct-LDA)에서 축소된 특징공간의 차원은 학습패턴의 클래스 수로 제한되기 때문에 LDA의 식별 성능을 향상시킬 수 있도록 학습패턴을 사전에 클러스터링하여 서브 클래스의 수를 증가시키는 방법이다. 즉, 학습패턴의 특성공간(the eigen space)은 레인지 공간(the range space)과 널 공간(the null space)으로 구성되며, 레인지 공간의 차원은 클래스 수의 증가에 따라 증가한다. 따라서 변환 행렬을 구성할 때 클래스의 수를 늘려 널 공간을 최소화하게 되면 이 공간에 기인한 정보의 손실을 최소화 할 수 있다. 제안 방법을 X-OR 형태의 인공데이터와 AT&T와 Yale 벤취마크 얼굴영상 데이터베이스를 대상으로 실험한 결과 본 방법의 효용성을 확인하였다.

특징 추출 알고리즘과 Adaboost를 이용한 이진분류기 (Binary classification by the combination of Adaboost and feature extraction methods)

  • 함승록;곽노준
    • 전자공학회논문지CI
    • /
    • 제49권4호
    • /
    • pp.42-53
    • /
    • 2012
  • 패턴 인식과 기계 학습 분야에서 분류는 가장 기본적으로 해결해야 하는 문제의 유형이다. Adaboost 알고리즘은 Boosting 알고리즘의 아이디어를 실제 데이터분석에 이용할 수 있도록 개량한 방법으로써, 단계를 반복하여 나온 여러 개의 약한 분류기와 가중치 값들의 조합으로 강한 분류기를 생성하는 두 개의 클래스를 분류하는 분류기이다. 주성분 분석법과 선형 판별 분석법은 높은 차원의 특징 벡터를 낮은 차원의 특징 벡터로 축소하는 특징 벡터의 차원 감소와 데이터의 특징 추출에도 유용하게 사용되는 방법들이다. 본 논문에서는, 주성분 분석법과 선형 판별 분석법을 이용하여 추출한 특징을 Adaboost 알고리즘의 약 분류기로 사용함으로써, 특징 추출과 분류를 동시에 하고, 인식률을 높이는 효율적인 Boosted-PCA와 Boosted-LDA 알고리즘을 제안한다. 마지막 장에서는, 제안하는 알고리즘으로 UCI Data-Set 중 2 Class-Data와 FRGC Data의 남자와 여자 영상에 대해서 분류 실험을 진행하였다. 실험의 결과로 제안한 Boosted-PCA와 Boosted-LDA 알고리즘이 기존의 특징 추출 알고리즘과 최근접 이웃 분류기, SVM을 이용한 분류기 방법과 비교하여 인식률이 향상됨을 보인다.

PCA와 LDA를 결합한 데이터 전 처리와 다항식 기반 RBFNNs을 이용한 얼굴 인식 알고리즘 설계 (Design of Face Recognition algorithm Using PCA&LDA combined for Data Pre-Processing and Polynomial-based RBF Neural Networks)

  • 오성권;유성훈
    • 전기학회논문지
    • /
    • 제61권5호
    • /
    • pp.744-752
    • /
    • 2012
  • In this study, the Polynomial-based Radial Basis Function Neural Networks is proposed as an one of the recognition part of overall face recognition system that consists of two parts such as the preprocessing part and recognition part. The design methodology and procedure of the proposed pRBFNNs are presented to obtain the solution to high-dimensional pattern recognition problems. In data preprocessing part, Principal Component Analysis(PCA) which is generally used in face recognition, which is useful to express some classes using reduction, since it is effective to maintain the rate of recognition and to reduce the amount of data at the same time. However, because of there of the whole face image, it can not guarantee the detection rate about the change of viewpoint and whole image. Thus, to compensate for the defects, Linear Discriminant Analysis(LDA) is used to enhance the separation of different classes. In this paper, we combine the PCA&LDA algorithm and design the optimized pRBFNNs for recognition module. The proposed pRBFNNs architecture consists of three functional modules such as the condition part, the conclusion part, and the inference part as fuzzy rules formed in 'If-then' format. In the condition part of fuzzy rules, input space is partitioned with Fuzzy C-Means clustering. In the conclusion part of rules, the connection weight of pRBFNNs is represented as two kinds of polynomials such as constant, and linear. The coefficients of connection weight identified with back-propagation using gradient descent method. The output of the pRBFNNs model is obtained by fuzzy inference method in the inference part of fuzzy rules. The essential design parameters (including learning rate, momentum coefficient and fuzzification coefficient) of the networks are optimized by means of Differential Evolution. The proposed pRBFNNs are applied to face image(ex Yale, AT&T) datasets and then demonstrated from the viewpoint of the output performance and recognition rate.

Haar Wavelet Transform 전처리 기법을 적용한 PCA, LDA기법의 얼굴 인식 (Haar Wavelet Transform Preprocessing Technique to Face Recognition of PCA, LDA)

  • 이동훈
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 가을 학술발표논문집 Vol.32 No.2 (2)
    • /
    • pp.832-834
    • /
    • 2005
  • 얼굴 인식을 위한 주요 기법인 PCA, LDA에 의한 mapping기법은 조명조건의 미세한 변화에 민감한 특성을 가진다. 얼굴 인식 연구에 있어서 인식률의 향상뿐만 아니라 실용적인 얼굴 인식 시스템을 구현하기 위해서는 조명 변화를 최소화 시키는 전처리 과정이 중요한 고려사항이다. 따라서 본 논문에서는 조명의 변화를 최소화 할 수 있는 전처리 방법으로 Haar 웨이블렛 변환으로 얻어진 웨이블렛 계수공간의 조정 후 역변환을 통한 영상향상을 제안한다. 실험 결과 제안한 방법은 기존의 전처리 방법으로 널리 쓰이는 히스토그램 평활화 방법에 비해 우수한 성능을 나타내었을 뿐만 아니라 메모리 절감효과에 따른 처리속도 증가를 보였다.

  • PDF

PCA-LDA 알고리즘을 이용한 고체절연물의 열화도 판별 (Evaluation on Degradation of Solid Insulator by PCA-LDA algorithm)

  • 박성희;강성화;임기조
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2005년도 제36회 하계학술대회 논문집 C
    • /
    • pp.2079-2081
    • /
    • 2005
  • Electrical treeing occurrence is caused by some defect in solid insulator. Those are accompany the PD(partial discharge) occurrence. And lifetime of the insulator is affected by PD. So, detection of electrical treeing is important thing as this view. Especially, detection of the end treeing is more important and have meaning for industrial engineering because concerned with maintenance and replacement of equipment. In this paper, evaluation of treeing process were studied and PCA(principle component analysis)-LDA(linear discriminant analysis) as classification method were used. The result is present the good recognition.

  • PDF

A Study on the Face Recognition Using PCA Algorithm

  • 이준탁;곽려혜
    • 한국지능시스템학회논문지
    • /
    • 제17권2호
    • /
    • pp.252-258
    • /
    • 2007
  • In this paper, a face recognition algorithm system using Principal Component Analysis (PCA) is proposed. The algorithm recognized a person by comparing characteristics (features) of the face to those of known individuals of Intelligent Control Laboratory (ICONL) face database. Simulations are carried out to investigate the algorithm recognition performance, which classified the face as a face or non-face and then classified it as known or unknown one. Particularly, a Principal Components of Linear Discriminant Analysis (PCA + LDA) face recognition algorithm is also proposed in order to confirm the recognition performances and the adaptability of a proposed PCA for a certain specific system.

AHRS를 이용한 피겨스케이팅 기본 동작 인식 (Recognition of Basic Motions for Figure Skating using AHRS)

  • 권기현;이형봉
    • 한국컴퓨터정보학회논문지
    • /
    • 제20권3호
    • /
    • pp.89-96
    • /
    • 2015
  • IT 기술이 생체역학 분야와 폭넓게 접목되고 있으며 AHRS 센서가 스포츠 모션분석 분야에 소형화 및 가격 경쟁력 측면에서 조명을 받고 있다. 본 논문에서는 피겨스케이트화에 소형의 AHRS 센서를 부착하고, 스핀(spin), 점프, 전/후진, 인/아웃 에지, 토(toe) 등의 기본 동작을 AHRS를 통해 측정한다. AHRS 센서의 측정 오차를 줄이기 위해 Madgwick의 상보필터를 적용하였으며, 짐벌락 현상(Gimbal Lock)을 줄이기 위해 쿼터니언(Quaternion)을 이용하였다. 취득한 9축 궤적 정보에 대해 PCA, ICA, LDA, SVM의 패턴인식 알고리즘을 적용하여 인식정확도 및 실행시간을 구하고, 여러 패턴인식 알고리즘 중에서 어떤 알고리즘이 인식정확도 및 실행시간 측면에서 적용이 가능한지 제시한다. 실험결과, PCA, ICA는 인식정확도가 낮아 사용하기에 부적합하며 LDA, SVM은 인식정확도가 우수하여 피겨스케이팅 기본 동작 인식에 사용이 적합함을 보인다.

스테레오비전 센서의 3D 궤적 정보를 이용한 상지 재활 동작 인식 (Recognition of Physical Rehabilitation on the Upper Limb Function using 3D Trajectory Information from the Stereo Vision Sensor)

  • 권기현;이형봉
    • 한국컴퓨터정보학회논문지
    • /
    • 제18권8호
    • /
    • pp.113-119
    • /
    • 2013
  • 뇌졸중 및 척수 신경 손상으로 인해 재활에 대한 요구는 증대되고 있다. 재활 영역 중에서도 상지(上肢) 재활은 신경의 복잡도로 인해 매우 어렵고 시간이 많이 걸린다. 재활은 전문치료사가 시설에서 작업치료를 하는 것이 효과적이기는 하나, 접근성, 상시성, 자발성 등에 대한 문제와 함께 비용과 시간이 많이 소요되는 문제점을 가지고 있다. 이 논문에서는 상지 재활 동작을 인식하기 위해 스테레오 비전 센서를 통해 취득한 3D 궤적정보에 대해 PCA, ICA, LDA, SVM의 패턴인식 알고리즘을 적용하여 인식정확도 및 실행시간을 구하고, 여러 패턴인식 알고리즘 중에서 어떤 알고리즘이 인식정확도 및 실행시간 측면에서 적용이 가능한지 제시한다. 실험결과, PCA, ICA는 인식정확도가 낮아 사용하기에 부적합하며 LDA, SVM은 인식정확도가 우수하여 상지 재활 동작 인식에 사용이 적합함을 보인다.

선형판별분석기법을 이용한 유도전동기의 고장진단 (Fault Diagnosis of Induction Motor using Linear Discriminant Analysis)

  • 전병석;이상혁;박장환;유정웅;전명근
    • 조명전기설비학회논문지
    • /
    • 제18권4호
    • /
    • pp.104-111
    • /
    • 2004
  • 본 논문에서는 산업전반에 걸쳐 널리 사용되는 유도전동기의 고장상태를 검출하기 위해 선형판별분석기법에 기반을 둔 진단 알고리즘을 제안하고자 한다. 제안된 기법은 우선 주기별로 실험에 의해 측정된 전류값의 입력차원을 주성분분석기법을 이용하여 축소한 후 선형판별분석기법을 이용하여 고장상태별로 특징벡터를 추출한다. 다음으로 진단단계는 확보된 고장 종류별 특징벡터와 운전 시 입력되는 특징벡터간의 유클리디안 거리를 이용하여 유도전동기의 운전상태를 진단하는 구조로 되어있다. 마지막으로 선형판별분석기법의 타당성을 보이기 위해 노이즈가 있는 다양한 조건하에서 실험한 결과, 주성분분석기법만을 이용한 경우보다 우수한 결과를 나타냈다.

A Study on Data Classification of Raman OIM Hyperspectral Bone Data

  • Jung, Sung-Hwan
    • 한국멀티미디어학회논문지
    • /
    • 제14권8호
    • /
    • pp.1010-1019
    • /
    • 2011
  • This was a preliminary research for the goal of understanding between internal structure of Osteogenesis Imperfecta Murine (OIM) bone and its fragility. 54 hyperspectral bone data sets were captured by using JASCO 2000 Raman spectrometer at UMKC-CRISP (University of Missouri-Kansas City Center for Research on Interfacial Structure and Properties). Each data set consists of 1,091 data points from 9 OIM bones. The original captured hyperspectral data sets were noisy and base-lined ones. We removed the noise and corrected the base-lined data for the final efficient classification. High dimensional Raman hyperspectral data on OIM bones was reduced by Principal Components Analysis (PCA) and Linear Discriminant Analysis (LDA) and efficiently classified for the first time. We confirmed OIM bones could be classified such as strong, middle and weak one by using the coefficients of their PCA or LDA. Through experiment, we investigated the efficiency of classification on the reduced OIM bone data by the Bayesian classifier and K -Nearest Neighbor (K-NN) classifier. As the experimental result, the case of LDA reduction showed higher classification performance than that of PCA reduction in the two classifiers. K-NN classifier represented better classification rate, compared with Bayesian classifier. The classification performance of K-NN was about 92.6% in case of LDA.