• 제목/요약/키워드: kernel distribution

검색결과 260건 처리시간 0.026초

On the Support Vector Machine with the kernel of the q-normal distribution

  • Joguchi, Hirofumi;Tanaka, Masaru
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2002년도 ITC-CSCC -2
    • /
    • pp.983-986
    • /
    • 2002
  • Support Vector Machine (SVM) is one of the methods of pattern recognition that separate input data using hyperplane. This method has high capability of pattern recognition by using the technique, which says kernel trick, and the Radial basis function (RBF) kernel is usually used as a kernel function in kernel trick. In this paper we propose using the q-normal distribution to the kernel function, instead of conventional RBF, and compare two types of the kernel function.

  • PDF

On Estimating the Hazard Rate for Samples from Weighted Distributions

  • Ahmad, Ibrahim A.
    • International Journal of Reliability and Applications
    • /
    • 제1권2호
    • /
    • pp.133-143
    • /
    • 2000
  • Data from weighted distributions appear, among other situations, when some of the data are missing or are damaged, a case that is important in reliability and life testing. The kernel method for hazard rate estimation is discussed for these data where the basic large sample properties are given. As a by product, the basic properties of the kernel estimate of the distribution function for data from weighted distribution are presented.

  • PDF

Self-adaptive Online Sequential Learning Radial Basis Function Classifier Using Multi-variable Normal Distribution Function

  • ;김형중
    • 한국정보통신설비학회:학술대회논문집
    • /
    • 한국정보통신설비학회 2009년도 정보통신설비 학술대회
    • /
    • pp.382-386
    • /
    • 2009
  • Online or sequential learning is one of the most basic and powerful method to train neuron network, and it has been widely used in disease detection, weather prediction and other realistic classification problem. At present, there are many algorithms in this area, such as MRAN, GAP-RBFN, OS-ELM, SVM and SMC-RBF. Among them, SMC-RBF has the best performance; it has less number of hidden neurons, and best efficiency. However, all the existing algorithms use signal normal distribution as kernel function, which means the output of the kernel function is same at the different direction. In this paper, we use multi-variable normal distribution as kernel function, and derive EKF learning formulas for multi-variable normal distribution kernel function. From the result of the experience, we can deduct that the proposed method has better efficiency performance, and not sensitive to the data sequence.

  • PDF

오차분포 유클리드 거리 기반 학습법의 커널 사이즈 적응 (Adaptive Kernel Estimation for Learning Algorithms based on Euclidean Distance between Error Distributions)

  • 김남용
    • 한국산학기술학회논문지
    • /
    • 제22권5호
    • /
    • pp.561-566
    • /
    • 2021
  • 오차분포 추정을 위한 커널 사이즈는 오차확률밀도 사이의 유클리드 거리를 최소화 알고리즘의 가중치 갱신에 적합한 커널 사이즈가 될 수 없다. 이 논문에서는 MED 알고리즘의 수렴 성능 향상을 위해 적응적으로 커널 사이즈를 갱신하는 방법을 제안하였다. 제안한 방식은 MED 학습 알고리즘의 가중치 갱신을 위해 커널 사이즈에 대한 오차분산의 평균변화율을 도입하여 MED의 오차에 대한 평균전력이 감소하는 방향으로 커널 사이즈를 조절하도록 하였다. 제안된 적응 커널 추정법을 무선통신 채널의 왜곡 보상에 적용하여 학습 성능을 실험하고 그 효능을 밝혔다. 오차분산에 비례한 작은 값을 가지는 기존의 오차분포 추정 위한 최적 커널 사이즈와 달리, 제안한 방법에 의한 커널 사이즈는 MED 가중치 수렴을 위한 적절한 커널 사이즈로 수렴함을 보였다. 실험 결과로부터 제안한 방법이 MED 알고리즘의 커널 사이즈 설정에 따른 민감성을 크게 해결한 방법이라고 볼 수 있다.

ROC 함수 추정 (ROC Function Estimation)

  • 홍종선;;홍선우
    • 응용통계연구
    • /
    • 제24권6호
    • /
    • pp.987-994
    • /
    • 2011
  • 모집단이 부도와 정상상태로 구분되는 신용평가 관점에서 부도와 정상 상태의 조건부 누적분포함수를 추정하는 방법으로 정규혼합 분포추정과 kernel density estimation을 이용하는 분포추정을 고려한다. 정규혼합 분포의 모수를 EM 알고리즘을 사용해 추정하고, KDE 방법에서는 많이 사용하는 다섯 종류의 커널 함수와 네가지의 띠폭을 이용한다. 그리고 추정한 분포로부터 구한 각각의 ROC 함수를 구한다. 추정한 분포들의 적합도를 비교 분석하고, 이를 바탕으로 구한 ROC 곡선의 성과를 비교 토론한다. 본 연구에서는 KDE 방법으로 추정한 분포함수가 더 적합하고, 추정한 정규혼합 분포를 이용한 ROC 함수가 더 좋은 성과를 나타내는 것을 발견하였다.

불연속 Kernel-Pareto 분포를 이용한 일강수량 모의 기법 개발 (Development of Daily Rainfall Simulation Model Using Piecewise Kernel-Pareto Continuous Distribution)

  • 권현한;소병진
    • 대한토목학회논문집
    • /
    • 제31권3B호
    • /
    • pp.277-284
    • /
    • 2011
  • 기존 Markov Chain 모형을 통한 일강수량 모의에서 가장 큰 문제점은 극치강수량을 재현하기 어렵다는 점이다. 이러한 문제점으로 인해 수자원계획을 수립하는데 있어서 불확실성을 가중시키고 있다. 특히 일강수량 모의기법을 통해서 추정되는 빈도강수량의 과소추정으로 인해 수공구조물 설계 시에 신뢰성을 확보하는데 문제점이 있다. 이러한 점에서 본 연구에서는 기존 Markov Chain 모형에서 일강수량에 평균적인 특성과 극치특성을 동시에 재현할 수 있도록 불연속 Kernel-Pareto Distribution 기반에 일강수량모의기법을 개발하였다. 한강유역의 3개 강수지점에 대해서 기존 Markov Chain 모형과 본 연구에서 제안한 방법을 적용한 결과 여름의 일강수량 모의 시 1차모멘트인 평균과 2-3차 모멘트 모두 효과적으로 재현하지 못하는 문제점이 나타났다. 그러나 본 연구에서 제안한 불연속 Kernel-Pareto 분포형 기반 Markov Chain 모형은 여름의 일강수량 모의 시 강수계열의 평균적인 특성뿐만 아니라 표준편차 및 왜곡도의 경우에도 관측치의 통계특성을 매우 효과적으로 재현하는 것으로 나타났다. 본 연구에서 제시한 방법론은 전체적으로 기존 Markov Chain 모형에 비해 극치강수량을 재현하는데 유리한 기법으로 판단된다. 또한 극치강수량을 일반강수량으로부터 분리하여 모의함으로서 평균 및 중간값 등 낮은 차수에 모멘트 등 일강수량에 전체적인 분포특성을 더욱 효과적으로 모의할 수 장점을 확인할 수 있었다.

A STUDY ON KERNEL ESTIMATION OF A SMOOTH DISTRIBUTION FUNCTION ON CENSORED DATA

  • Jee, Eun Sook
    • 한국수학교육학회지시리즈A:수학교육
    • /
    • 제31권2호
    • /
    • pp.133-140
    • /
    • 1992
  • The problem of estimating a smooth distribution function F at a point $\tau$ based on randomly right censored data is treated under certain smoothness conditions on F . The asymptotic performance of a certain class of kernel estimators is compared to that of the Kap lan-Meier estimator of F($\tau$). It is shown that the .elative deficiency of the Kaplan-Meier estimate. of F($\tau$) with respect to the appropriately chosen kernel type estimate. tends to infinity as the sample size n increases to infinity. Strong uniform consistency and the weak convergence of the normalized process are also proved.

  • PDF

Learning Probabilistic Kernel from Latent Dirichlet Allocation

  • Lv, Qi;Pang, Lin;Li, Xiong
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제10권6호
    • /
    • pp.2527-2545
    • /
    • 2016
  • Measuring the similarity of given samples is a key problem of recognition, clustering, retrieval and related applications. A number of works, e.g. kernel method and metric learning, have been contributed to this problem. The challenge of similarity learning is to find a similarity robust to intra-class variance and simultaneously selective to inter-class characteristic. We observed that, the similarity measure can be improved if the data distribution and hidden semantic information are exploited in a more sophisticated way. In this paper, we propose a similarity learning approach for retrieval and recognition. The approach, termed as LDA-FEK, derives free energy kernel (FEK) from Latent Dirichlet Allocation (LDA). First, it trains LDA and constructs kernel using the parameters and variables of the trained model. Then, the unknown kernel parameters are learned by a discriminative learning approach. The main contributions of the proposed method are twofold: (1) the method is computationally efficient and scalable since the parameters in kernel are determined in a staged way; (2) the method exploits data distribution and semantic level hidden information by means of LDA. To evaluate the performance of LDA-FEK, we apply it for image retrieval over two data sets and for text categorization on four popular data sets. The results show the competitive performance of our method.

Estimation of Non-Gaussian Probability Density by Dynamic Bayesian Networks

  • Cho, Hyun-C.;Fadali, Sami M.;Lee, Kwon-S.
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2005년도 ICCAS
    • /
    • pp.408-413
    • /
    • 2005
  • A new methodology for discrete non-Gaussian probability density estimation is investigated in this paper based on a dynamic Bayesian network (DBN) and kernel functions. The estimator consists of a DBN in which the transition distribution is represented with kernel functions. The estimator parameters are determined through a recursive learning algorithm according to the maximum likelihood (ML) scheme. A discrete-type Poisson distribution is generated in a simulation experiment to evaluate the proposed method. In addition, an unknown probability density generated by nonlinear transformation of a Poisson random variable is simulated. Computer simulations numerically demonstrate that the method successfully estimates the unknown probability distribution function (PDF).

  • PDF