• 제목/요약/키워드: Gaussian Kernel

검색결과 137건 처리시간 0.021초

Support Vector Machine의 입력데이터 오류에 대한 Robustness분석 (Robustness Analysis of Support Vector Machines against Errors in Input Data)

  • 이상근;장병탁
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 한국컴퓨터종합학술대회 논문집 Vol.32 No.1 (B)
    • /
    • pp.715-717
    • /
    • 2005
  • Support vector machine(SVM)은 최근 각광받는 기계학습 방법 중 하나로서, kernel function 이라는 사상(mapping)을 이용하여 입력 공간의 벡터를 classification이 용이한 특징 (feature) 공간의 벡터로 변환하는 것을 근간으로 한다. SVM은 이러한 특징 공간에서 두 클래스를 구분 짓는 hyperplane을 일련의 최적화 방법론을 사용하여 찾아내며, 주어진 문제가 convex problem 인 경우 항상 global optimal solution 을 보장하는 등의 장점을 지닌다. 한편 bioinformatics 연구에서 주로 사용되는 데이터는 측정 오류 등 일련의 오류를 포함하고 있으며, 이러한 오류는 기계학습 방법론이 어떤 decision boundary를 찾아내는가에 영향을 끼치게 된다. 특히 SVM의 경우 이러한 오류는 특징 공간 벡터간의 관계를 나타내는 Gram matrix를 변화로 나타나게 된다. 본 연구에서는 입력 공간에 오류가 발생할 때 그것이 SVM 의 decision boundary를 어떻게 변화시키는가를 대표적인 두 가지 kernel function, 즉 linear kernel과 Gaussian kernel에 대해 분석하였다. Wisconsin대학의 유방암(breast cancer) 데이터에 대해 실험한 결과, 데이터의 오류에 따른 SVM 의 classification 성능 변화 양상을 관찰하여 커널의 종류에 따라 SVM이 어떠한 특성을 보이는가를 밝혀낼 수 있었다. 또 흥미롭게도 어떤 조건 하에서는 오류가 크더라도 오히려 SVM 의 성능이 향상되는 것을 발견했는데, 이것은 바꾸어 생각하면 Gram matrix 의 일부를 변경하여 SVM 의 성능 향상을 꾀할 수 있음을 나타낸다.

  • PDF

충격성 잡음 채널의 블라인드 등화를 위한 최대 영-확률 알고리듬에 대한 성능 분석 (Performance Analysis of Maximum Zero-Error Probability Algorithm for Blind Equalization in Impulsive Noise Channels)

  • 김남용
    • 인터넷정보학회논문지
    • /
    • 제11권5호
    • /
    • pp.1-8
    • /
    • 2010
  • 이 논문은 충격성 잡음 환경에 대해 상수 모듈러스 오차(CME)와 가우시안 커널에 근거한 블라인드 등화 알고리듬의 성능 분석을 보이고 있다. CME와 평균 자승 오차(MSE)에 근거한 상수 모듈러스 알고리듬(CMA)는 충격성 잡음 환경에서 수렴에 실패한다. 이런 충격성 잡음에 대한 내항성을 위해 최근에 소개된 코렌트로피 블라인드 등화 알고리듬도 PAM 변조 방식에서는 만족할 만한 결과를 보이지 못한다. 원래 가우시안 잡음 환경을 위해 제안되었던 최대 영-확률 블라인드 알고리듬(MZEP-CME)이 충격성 잡음 환경에서도 탁월한 성능을 보인다는 것이 이 논문의 이론적, 그리고 시뮬레이션을 통한 분석에 의해 입증된다. MZEP-CME 알고리듬의 가우시안 커널은 충격성 잡음에 의해 발생하는 출력 신호 전력과 CME 사이의 큰 차이에 민감하게 반응하지 못하게 하는 강한 영향력을 발휘한다.

Sub-pixel image interpolations for PIV

  • Kim Byoung Jae;Sung Hyung Jin
    • 한국가시화정보학회:학술대회논문집
    • /
    • 한국가시화정보학회 2004년도 Proceedings of 2004 Korea-Japan Joint Seminar on Particle Image Velocimetry
    • /
    • pp.47-55
    • /
    • 2004
  • Several interpolations for image deformation in PIV were evaluated. The tested interpolation methods are linear, quadratic, truncated sinc, windowed sinc, cubic, Lagrange, Gaussian $2^{nd}\;and\;6^{th}$ interpolators. Bias errors and random errors were evaluated in the range of $0\~3.0$ pixel uniform displacement using synthetic images. We also measured the time cost of each interpolator with respect to kernel size. The cubic interpolator with $6\times6$ kernel showed the best results in terms of the performance and time cost.

  • PDF

Online Probability Density Estimation of Nonstationary Random Signal using Dynamic Bayesian Networks

  • Cho, Hyun-Cheol;Fadali, M. Sami;Lee, Kwon-Soon
    • International Journal of Control, Automation, and Systems
    • /
    • 제6권1호
    • /
    • pp.109-118
    • /
    • 2008
  • We present two estimators for discrete non-Gaussian and nonstationary probability density estimation based on a dynamic Bayesian network (DBN). The first estimator is for off line computation and consists of a DBN whose transition distribution is represented in terms of kernel functions. The estimator parameters are the weights and shifts of the kernel functions. The parameters are determined through a recursive learning algorithm using maximum likelihood (ML) estimation. The second estimator is a DBN whose parameters form the transition probabilities. We use an asymptotically convergent, recursive, on-line algorithm to update the parameters using observation data. The DBN calculates the state probabilities using the estimated parameters. We provide examples that demonstrate the usefulness and simplicity of the two proposed estimators.

Lagged Cross-Correlation of Probability Density Functions and Application to Blind Equalization

  • Kim, Namyong;Kwon, Ki-Hyeon;You, Young-Hwan
    • Journal of Communications and Networks
    • /
    • 제14권5호
    • /
    • pp.540-545
    • /
    • 2012
  • In this paper, the lagged cross-correlation of two probability density functions constructed by kernel density estimation is proposed, and by maximizing the proposed function, adaptive filtering algorithms for supervised and unsupervised training are also introduced. From the results of simulation for blind equalization applications in multipath channels with impulsive and slowly varying direct current (DC) bias noise, it is observed that Gaussian kernel of the proposed algorithm cuts out the large errors due to impulsive noise, and the output affected by the DC bias noise can be effectively controlled by the lag ${\tau}$ intrinsically embedded in the proposed function.

Filtering Effect in Supervised Classification of Polarimetric Ground Based SAR Images

  • Kang, Moon-Kyung;Kim, Kwang-Eun;Cho, Seong-Jun;Lee, Hoon-Yol;Lee, Jae-Hee
    • 대한원격탐사학회지
    • /
    • 제26권6호
    • /
    • pp.705-719
    • /
    • 2010
  • We investigated the speckle filtering effect in supervised classification of the C-band polarimetric Ground Based SAR image data. Wishart classification method was used for the supervised classification of the polarimetric GB-SAR image data and total of 6 kinds of speckle filters were applied before supervised classification, which are boxcar, Gaussian, Lopez, IDAN, the refined Lee, and the refined Lee sigma filters. For each filters, we changed the filtering kernel size from $3{\times}3$ to $9{\times}9$ to investigate the filtering size effect also. The refined Lee filter with the kernel size of bigger than $5{\times}5$ showed the best result for the Wishart supervised classification of polarimetric GB-SAR image data. The result also showed that the type of trees could be discriminated by Wishart supervised classification of polarimetric GB-SAR image data.

차분진화 기반의 Support Vector Clustering (A Differential Evolution based Support Vector Clustering)

  • 전성해
    • 한국지능시스템학회논문지
    • /
    • 제17권5호
    • /
    • pp.679-683
    • /
    • 2007
  • Vapnik의 통계적 학습이론은 분류, 회귀, 그리고 군집화를 위하여 SVM(support vector machine), SVR(support vector regression), 그리고 SVC(support vector clustering)의 3가지 학습 알고리즘을 포함한다. 이들 중에서 SVC는 가우시안 커널함수에 기반한 지지벡터를 이용하여 비교적 우수한 군집화 결과를 제공하고 있다. 하지만 SVM, SVR과 마찬가지로 SVC도 커널모수와 정규화상수에 대한 최적결정이 요구된다 하지만 대부분의 분석작업에서 사용자의 주관적 경험에 의존하거나 격자탐색과 같이 많은 컴퓨팅 시간을 요구하는 전략에 의존하고 있다. 본 논문에서는 SVC에서 사용되는 커널모수와 정규화상수의 효율적인 결정을 위하여 차분진화를 이용한 DESVC(differential evolution based SVC)를 제안한다 UCI Machine Learning repository의 학습데이터와 시뮬레이션 데이터 집합들을 이용한 실험을 통하여 기존의 기계학습 알고리즘과의 성능평가를 수행한다.

User Identification Using Real Environmental Human Computer Interaction Behavior

  • Wu, Tong;Zheng, Kangfeng;Wu, Chunhua;Wang, Xiujuan
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제13권6호
    • /
    • pp.3055-3073
    • /
    • 2019
  • In this paper, a new user identification method is presented using real environmental human-computer-interaction (HCI) behavior data to improve method usability. User behavior data in this paper are collected continuously without setting experimental scenes such as text length, action number, etc. To illustrate the characteristics of real environmental HCI data, probability density distribution and performance of keyboard and mouse data are analyzed through the random sampling method and Support Vector Machine(SVM) algorithm. Based on the analysis of HCI behavior data in a real environment, the Multiple Kernel Learning (MKL) method is first used for user HCI behavior identification due to the heterogeneity of keyboard and mouse data. All possible kernel methods are compared to determine the MKL algorithm's parameters to ensure the robustness of the algorithm. Data analysis results show that keyboard data have a narrower range of probability density distribution than mouse data. Keyboard data have better performance with a 1-min time window, while that of mouse data is achieved with a 10-min time window. Finally, experiments using the MKL algorithm with three global polynomial kernels and ten local Gaussian kernels achieve a user identification accuracy of 83.03% in a real environmental HCI dataset, which demonstrates that the proposed method achieves an encouraging performance.

A consideration on the one dimensional q-wavelet

  • Watanabe, Takashi;Tanaka, Masaru;Mishima, Taketoshi
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2002년도 ITC-CSCC -1
    • /
    • pp.393-396
    • /
    • 2002
  • In this paper, we give the definitions of the q-Haar and q-Gabor wavelet. Instead of using the conventional Gaussian distribution as a kernel of the Gabor wavelet, if the q-normal distribution is used, we can get the q-Gabor wavelet as a possible generalization of the Gabor wavelet. The q-normal distribution, which is given by the author, is one of the generalized Gaussian distribution. On the other hand, if two sets of the q-normal distribution are connected anti-symmetrically, we can get the q-Haar wavelet as a possible generalization of the Haiw wavelet. We give experiments on the q-eabor and q-Haar wavelet and discuss about the q-Gabor and q-Haar wavelet.

  • PDF

다축척 수치영상에서 $F\"{o}rstner$연산자의 거동 ([ $F\"{o}rstner$ ] Interest Operator in Scale Space)

  • 조우석
    • 대한공간정보학회지
    • /
    • 제4권1호
    • /
    • pp.67-73
    • /
    • 1996
  • 본 논문은 수치영상으로부터 컴퓨터비전(Computer Vision), 수치사진측량학(야?w미 Photogrammmetry)분야에서 특이점(Distinct Point)이나 Linear Feature를 추출하기 위해서 가장 많이 이용되고 있는 $F\"{o}rstner$ interest operator의 Scale space에 관한 연구이다. 수치사진측량분야에서 사용되고 있는 수치영상자료의 크기를 고려할 때, Scale space 즉 Image pyramid는 수치영상 처리속도를 향상시킬 수 있는 방법으로 서서히 주목받고 있다. 본 연구에서는 Gaussian에 의해서 구축된 Scale space에서 $F\"{o}rstner$ interest operator의 거동을 고찰하였고, 실제 수치사진 영상에 적용하여 실제적용 여부를 검증하였다.

  • PDF