• Communications for Statistical Applications and Methods
• /
• 제17권4호
• /
• pp.515-525
• /
• 2010

본 논문에서는 패널회귀모형에서 회귀계수의 일반최소제곱추정량과 가중최소제곱추정량의 설계기반 성질을 살펴보았다. 복합표본이 주어진 경우에 두 추정량의 설계편향을 구하여 가중최소제곱추정량의 설계편향의 크기가 더 작음을 보였다. 또한 한국복지패널 데이터를 대상으로 모의실험을 실시하여 다음의 결과를 얻었다. 첫째, 일반최소제곱추정치의 상대편향이 가중최소제곱추정치의 상대편향보다 약 2배 정도 크게 나타났고 일반최소제곱추정치의 편향비가 더 크게 나타났다. 그리고 표본수가 증가하면 일반최소제곱 추정치의 상대편향은 완만하게 줄어든 반면 가중최소제곱추정치의 상대편향은 급속도로 줄어들었다. 둘째, 표본수가 증가하면 일반초소제곱추정치와 가중최소제곱추정치의 분산과 평균제곱오차는 모두 줄어들였다. 그러나 평균제곱오차에서 차지하는 편향제곱의 비율은 표본수가 증가할 때 일반최소제곱추정치에서는 증가하는 반면 가중최소제곱추정치에서는 감소하는 경향이 나타났다. 마지막으로 거의 모든 경우에 일반최소제곱추정치의 분산이 가중최소제곱추정치의 분산보다 작게 나타났다. 그리고 많은 경우에 일반최소제곱추정치의 평균제곱오차가 가중최소제곱추정치의 평균제곱오차보다 작게 나타났다. 그러나 표본수가 증가할수록 일반최소제곱추정치의 평균제곱오차가 가중최소제곱추정치의 평균제곱오차보다 커지는 경우가 늘어났다.

• 전기학회논문지
• /
• 제59권5호
• /
• pp.981-989
• /
• 2010

In this study, we introduce a new architecture of fuzzy inference system. In the fuzzy inference system, we use Fuzzy C-Means clustering algorithm to form the premise part of the rules. The membership functions standing in the premise part of fuzzy rules do not assume any explicit functional forms, but for any input the resulting activation levels of such radial basis functions directly depend upon the distance between data points by means of the Fuzzy C-Means clustering. As the consequent part of fuzzy rules of the fuzzy inference system (being the local model representing input output relation in the corresponding sub-space), four types of polynomial are considered, namely constant, linear, quadratic and modified quadratic. This offers a significant level of design flexibility as each rule could come with a different type of the local model in its consequence. Either the Least Square Estimator (LSE) or the weighted Least Square Estimator (WLSE)-based learning is exploited to estimate the coefficients of the consequent polynomial of fuzzy rules. In fuzzy modeling, complexity and interpretability (or simplicity) as well as accuracy of the obtained model are essential design criteria. The performance of the fuzzy inference system is directly affected by some parameters such as e.g., the fuzzification coefficient used in the FCM, the number of rules(clusters) and the order of polynomial in the consequent part of the rules. Accordingly we can obtain preferred model structure through an adjustment of such parameters of the fuzzy inference system. Moreover the comparative experimental study between WLSE and LSE is analyzed according to the change of the number of clusters(rules) as well as polynomial type. The superiority of the proposed model is illustrated and also demonstrated with the use of Automobile Miles per Gallon(MPG), Boston housing called Machine Learning dataset, and Mackey-glass time series dataset.

• Communications for Statistical Applications and Methods
• /
• 제26권2호
• /
• pp.91-102
• /
• 2019

In this paper, we propose a new estimation method based on a weighted linear regression framework to obtain some estimators for unknown parameters in a two-parameter Rayleigh distribution under a progressive Type-II censoring scheme. We also provide unbiased estimators of the location parameter and scale parameter which have a nuisance parameter, and an estimator based on a pivotal quantity which does not depend on the other parameter. The proposed weighted least square estimator (WLSE) of the location parameter is not dependent on the scale parameter. In addition, the WLSE of the scale parameter is not dependent on the location parameter. The results are compared with the maximum likelihood method and pivot-based estimation method. The assessments and comparisons are done using Monte Carlo simulations and real data analysis. The simulation results show that the estimators ${\hat{\mu}}_u({\hat{\theta}}_p)$ and ${\hat{\theta}}_p({\hat{\mu}}_u)$ are superior to the other estimators in terms of the mean squared error (MSE) and bias.

• 한국정보전자통신기술학회논문지
• /
• 제1권3호
• /
• pp.69-76
• /
• 2008

본 논문에서는 Mountain clustering 알고리즘을 이용한 Fuzzy Radial Basis Function Neural Network(FRBFNN)의 규칙 수를 자동생성 방법을 제시한다. FRBFNN은 기존 RBFNN에서 가우시안이나 타원형 형태의 특정 RBF를 사용하는 구조와 달리 클러스터의 중심값과의 거리에 기반을 둔 멤버쉽함수를 사용하여 전반부의 공간 분할 및 활성화 레벨을 결정한다. 또한 분할된 로컬영역에서의 입출력 특성을 나타내는 퍼지규칙의 후반부로서 고차 다항식을 고려하였다. 본 논문에서는 데이터의 밀집도에 기반을 두어 클러스터링을 수행하는 Mountain clustering 알고리즘을 사용하여 적합한 퍼지 규칙(클러스터)의 수와 클러스터의 중심값을 자동적으로 생성하는 방법을 제안한다. Mountain clustering으로부터 구해진 클러스터의 중심은 멤버쉽 값을 결정하는데 사용되며, Weighted Least Square Estimator (WLSE) 알고리즘을 사용하여 후반부 다항식의 계수를 추정한다. 제안된 알고리즘은 비선형 함수 모델링에 적용하여 성능의 우수성과 알고리즘의 타당성을 보인다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2008년도 제39회 하계학술대회
• /
• pp.1857-1858
• /
• 2008

본 논문에서는 FCM 기반 RBF 뉴럴네트워크(FCM-RBFNN) 구조를 제안하고 PSO를 이용한 FCM-RBFNN의 구조 및 파라미터의 최적화 방법을 제시한다. 클러스터링 알고리즘은 퍼지 뉴럴 네트워크에서 멤버쉽함수의 중심점과 반경 등을 결정하는 학습에 일반적으로 사용된다. 제안된 FCM-RBFNN서는 방사기저함수로써 가우시안, 삼각형 타입 등의 정해진 형태를 사용하지 않고 데이터들 사이의 거리에 관계된 계산을 수행하는 FCM에 의해 결정된다. 기존의 RBFNN에서 후반부는 상수형태로써 방사기저함수의 선형결합으로써 표현되는 반면에 제안된 FCM-RBFNN의 후반부는 상수형, 선형, 2차식 등의 다양한 형태의 다항식으로 표현될 수 있으며 다항식의 계수는 WLSE를 이용하여 추정한다. FCM 기반 RBF 뉴럴 네트워크의 성능은 퍼지규칙의 수, 후반부 다항식의 차수 FCM의 퍼지화 계수에 의하여 결정기 때문에 FCM-RBFNN의 구조와 파라미터의 최적화가 요구된다. 본 논문에서는 PSO를 이용하여 FCM-RBFNN의 구조에 관련된 퍼지 규칙의 수, 후반부 다항식의 차수와 파라미터에 관련된 퍼지화 계수를 최적화한다. 또한 후반부 다항식의 계수는 WLSE를 사용하여 추정한다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2015년도 제46회 하계학술대회
• /
• pp.1347-1348
• /
• 2015

본 논문에서는 기상레이더 데이터에서 섞여있는 강수에코 및 비강수에코를 분류하기 위하여 Interval Type-2 FCM based RBFNN의 도움으로 사례 및 에코 분류기의 설계를 제안한다. 학습과 테스트 데이터는 현재 기상청에서 사용하는 UF radar data를 사용하였으며, 사례 분류기와 에코패턴 분류기의 데이터를 각각 생성한다. 전처리 과정인 사례 분류를 통하여 강수사례 혹은 비강수사례를 분류하여 강수사례일 경우 에코패턴분류를 진행하며, 비강수사례일 경우 데이터에 관측된 모든 반사도 값을 제거한다. 사례 및 에코 분류기는 Interval Type-2 FCM based RBFNN을 통하여 패턴분류를 진행하며, 패턴분류 성능을 확인한다. 또한 후반부 파라미터의 동정 시, 각 규칙에 파라미터를 전역적으로 구하는 LSE와 각 규칙에 대한 파라미터를 독립적으로 구하는 WSLE의 비교연구를 수행한다. 분류기의 성능을 확인하기 위하여 사례 분류 후 에코패턴분류의 결과는 현재 기상청에서 사용하고는 품질검사(QC) 데이터와 비교하여 평가하였다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2009년도 제40회 하계학술대회
• /
• pp.1903_1904
• /
• 2009

본 논문은 퍼지 RBF 뉴럴네트워크를 이용한 트랙킹 검출 방법을 제시한다. IEC 60112에서 규정한 실험 장치와 방법에 따라 실험을 수행하였다. NI 장비를 사용하여 전류 파형을 측정하고, 측정된 전류 파형으로부터 FFT, 웨이블렛등의 신호처리 기법을 사용하여 12개의 특징점을 추출한다. 추출된 특징점들을 퍼지 RBF 뉴럴네트워크의 입력으로 사용하여 트랙킹 발생 유무를 검출한다. 퍼지 RBF 뉴럴네트워크는 WLSE를 사용하여 학습하고, HFC-PGA를 이용하여 특징점들의 선택, 퍼지 규칙의 수, 후반부 다항식 차수, 퍼지화 계수등을 최적화 하였다.

• 전기학회논문지
• /
• 제57권11호
• /
• pp.2108-2116
• /
• 2008

The paper concerns Fuzzy C-Means clustering based Radial Basis Function neural networks (FCM-RBFNN) and the optimization of the network is carried out by means of Particle Swarm Optimization(PSO). FCM-RBFNN is the extended architecture of Radial Basis Function Neural Network(RBFNN). In the proposed network, the membership functions of the premise part of fuzzy rules do not assume any explicit functional forms such as Gaussian, ellipsoidal, triangular, etc., so its resulting fitness values directly rely on the computation of the relevant distance between data points by means of FCM. Also, as the consequent part of fuzzy rules extracted by the FCM - RBFNN model, the order of four types of polynomials can be considered such as constant, linear, quadratic and modified quadratic. Weighted Least Square Estimator(WLSE) are used to estimates the coefficients of polynomial. Since the performance of FCM-RBFNN is affected by some parameters of FCM-RBFNN such as a specific subset of input variables, fuzzification coefficient of FCM, the number of rules and the order of polynomials of consequent part of fuzzy rule, we need the structural as well as parametric optimization of the network. In this study, the PSO is exploited to carry out the structural as well as parametric optimization of FCM-RBFNN. Moreover The proposed model is demonstrated with the use of numerical example and gas furnace data set.

• 전기학회논문지
• /
• 제65권9호
• /
• pp.1541-1550
• /
• 2016

In this paper, we introduce a novel learning methodology of fuzzy clustering-based neural network pattern classifier. Fuzzy clustering-based neural network pattern classifier depicts the patterns of given classes using fuzzy rules and categorizes the patterns on unseen data through fuzzy rules. Least squares estimator(LSE) or weighted least squares estimator(WLSE) is typically used in order to estimate the coefficients of polynomial function, but this study proposes a novel coefficient estimate method which includes advantages of the existing methods. The premise part of fuzzy rule depicts input space as "If" clause of fuzzy rule through fuzzy c-means(FCM) clustering, while the consequent part of fuzzy rule denotes output space through polynomial function such as linear, quadratic and their coefficients are estimated by the proposed local least squares estimator(LLSE)-based learning. In order to evaluate the performance of the proposed pattern classifier, the variety of machine learning data sets are exploited in experiments and through the comparative analysis of performance, it provides that the proposed LLSE-based learning method is preferable when compared with the other learning methods conventionally used in previous literature.

• 제어로봇시스템학회논문지
• /
• 제17권8호
• /
• pp.731-738
• /
• 2011

In this paper, we introduce an advanced architecture of K-Means clustering-based polynomial Radial Basis Function Neural Networks (p-RBFNNs) designed with the aid of SSOA (Space Search Optimization Algorithm) and develop a comprehensive design methodology supporting their construction. In order to design the optimized p-RBFNNs, a center value of each receptive field is determined by running the K-Means clustering algorithm and then the center value and the width of the corresponding receptive field are optimized through SSOA. The connections (weights) of the proposed p-RBFNNs are of functional character and are realized by considering three types of polynomials. In addition, a WLSE (Weighted Least Square Estimation) is used to estimate the coefficients of polynomials (serving as functional connections of the network) of each node from output node. Therefore, a local learning capability and an interpretability of the proposed model are improved. The proposed model is illustrated with the use of nonlinear function, NOx called Machine Learning dataset. A comparative analysis reveals that the proposed model exhibits higher accuracy and superb predictive capability in comparison to some previous models available in the literature.