• 제목/요약/키워드: Metropolis algorithm

검색결과 81건 처리시간 0.027초

Posterior density estimation for structural parameters using improved differential evolution adaptive Metropolis algorithm

  • Zhou, Jin;Mita, Akira;Mei, Liu
    • Smart Structures and Systems
    • /
    • 제15권3호
    • /
    • pp.735-749
    • /
    • 2015
  • The major difficulty of using Bayesian probabilistic inference for system identification is to obtain the posterior probability density of parameters conditioned by the measured response. The posterior density of structural parameters indicates how plausible each model is when considering the uncertainty of prediction errors. The Markov chain Monte Carlo (MCMC) method is a widespread medium for posterior inference but its convergence is often slow. The differential evolution adaptive Metropolis-Hasting (DREAM) algorithm boasts a population-based mechanism, which nms multiple different Markov chains simultaneously, and a global optimum exploration ability. This paper proposes an improved differential evolution adaptive Metropolis-Hasting algorithm (IDREAM) strategy to estimate the posterior density of structural parameters. The main benefit of IDREAM is its efficient MCMC simulation through its use of the adaptive Metropolis (AM) method with a mutation strategy for ensuring quick convergence and robust solutions. Its effectiveness was demonstrated in simulations on identifying the structural parameters with limited output data and noise polluted measurements.

불완전 자료에 대한 Metropolis-Hastings Expectation Maximization 알고리즘 연구 (Metropolis-Hastings Expectation Maximization Algorithm for Incomplete Data)

  • 전수영;이희찬
    • 응용통계연구
    • /
    • 제25권1호
    • /
    • pp.183-196
    • /
    • 2012
  • 결측자료(missing data), 절단분포(truncated distribution), 중도절단자료(censored data) 등 불완전한 자료(incomplete data)하의 추론문제(incomplete problems)는 통계학에서 자주 발생되는 현상이다. 이런 문제의 해결방법으로 Expectation Maximization, Monte Carlo Expectation Maximization, Stochastic Expectation Maximization 알고리즘 등을 이용하는 방법이 있지만, 정형화된 분포의 가정이 필요하다는 단점을 가지고 있다. 본 연구에서는 정형화된 분포의 가정이 없는 경우에 사용할 수 있는 Metropolis-Hastings Expectation Maximization(MHEM) 알고리즘을 제안하고자 한다. MHEM 알고리즘의 효율성은 중도절단자료(censored data)를 이용한 모의실험과 KOSPI 200 수익률의 실증자료분석를 통해 알수 있었다.

구조 최적화를 위한 Metropolis 유전자 알고리즘을 개발과 호율성 평가 (Development and Efficiency Evaluation of Metropolis GA for the Structural Optimization)

  • 박균빈;김정태;나원배;류연선
    • 한국전산구조공학회논문집
    • /
    • 제19권1호
    • /
    • pp.27-37
    • /
    • 2006
  • 모사풀림(SA)의 특징적인 Metropolis 규준을 단순 유전자 알고리즘(SGA)의 재생산 연산과정에 도입함으로써 Metropolis 유전자 알고리즘(MGA)이 개발되고, 구조 설계 최적화에 응용되었다. 이러한 결합을 통하여 MGA는 개체의 다양성을 유지하며, 초기 세대에서 나타날 수 있는 유용한 유전자 정보가 보존될 수 있다. 따라서 이 연구에서 제안된 MGA는, 국부적 최적해로 조기 수렴하게 되는 SGA의 단점과 정밀한 전역적 최적해를 찾기 위해 수없이 많은 계산을 해야 하는 SA의 단점을 극복하게 되었다 수치예를 통하여 MGA의 성능과 적용성을 재래의 알고리즘들과 비교하고 평가하였다. 특히 MGA의 성능 신뢰성과 강건성을 평가하는 데는 집단 크기와 최대 반복세대수의 효과를 인용하였다. 이론적 고찰과 수치예의 결과로부터, 이 연구에서 개발된 MGA가 효율성과 신뢰성을 갖춘 구조 설계 최적화의 도구로서 평가되었다.

수학적 최적화 문제를 이용한 MGA의 성능평가 및 매개변수 연구 (Performance Evaluation and Parametric Study of MGA in the Solution of Mathematical Optimization Problems)

  • 조현만;이현진;류연선;김정태;나원배;임동주
    • 한국전산구조공학회:학술대회논문집
    • /
    • 한국전산구조공학회 2008년도 정기 학술대회
    • /
    • pp.416-421
    • /
    • 2008
  • A Metropolis genetic algorithm (MGA) is a newly-developed hybrid algorithm combining simple genetic algorithm (SGA) and simulated annealing (SA). In the algorithm, favorable features of Metropolis criterion of SA are incorporated in the reproduction operations of SGA. This way, MGA alleviates the disadvantages of finding imprecise solution in SGA and time-consuming computation in SA. It has been successfully applied and the efficiency has been verified for the practical structural design optimization. However, applicability of MGA for the wider range of problems should be rigorously proved through the solution of mathematical optimization problems. Thus, performances of MGA for the typical mathematical problems are investigated and compared with those of conventional algorithms such as SGA, micro genetic algorithm (${\mu}GA$), and SA. And, for better application of MGA, the effects of acceptance level are also presented. From numerical Study, it is again verified that MGA is more efficient and robust than SA, SGA and ${\mu}GA$ in the solution of mathematical optimization problems having various features.

  • PDF

Laplace-Metropolis알고리즘에 의한 다항로짓모형의 변수선택에 관한 연구 (Laplace-Metropolis Algorithm for Variable Selection in Multinomial Logit Model)

  • 김혜중;이애경
    • 품질경영학회지
    • /
    • 제29권1호
    • /
    • pp.11-23
    • /
    • 2001
  • This paper is concerned with suggesting a Bayesian method for variable selection in multinomial logit model. It is based upon an optimal rule suggested by use of Bayes rule which minimizes a risk induced by selecting the multinomial logit model. The rule is to find a subset of variables that maximizes the marginal likelihood of the model. We also propose a Laplace-Metropolis algorithm intended to suggest a simple method forestimating the marginal likelihood of the model. Based upon two examples, artificial data and empirical data examples, the Bayesian method is illustrated and its efficiency is examined.

  • PDF

Bayesian MCMC 및 Metropolis Hastings 알고리즘을 이용한 강우빈도분석에서 확률분포의 매개변수에 대한 불확실성 해석 (Uncertainty Analysis for Parameters of Probability Distribution in Rainfall Frequency Analysis by Bayesian MCMC and Metropolis Hastings Algorithm)

  • 서영민;박기범
    • 한국환경과학회지
    • /
    • 제20권3호
    • /
    • pp.329-340
    • /
    • 2011
  • The probability concepts mainly used for rainfall or flood frequency analysis in water resources planning are the frequentist viewpoint that defines the probability as the limit of relative frequency, and the unknown parameters in probability model are considered as fixed constant numbers. Thus the probability is objective and the parameters have fixed values so that it is very difficult to specify probabilistically the uncertianty of these parameters. This study constructs the uncertainty evaluation model using Bayesian MCMC and Metropolis -Hastings algorithm for the uncertainty quantification of parameters of probability distribution in rainfall frequency analysis, and then from the application of Bayesian MCMC and Metropolis- Hastings algorithm, the statistical properties and uncertainty intervals of parameters of probability distribution can be quantified in the estimation of probability rainfall so that the basis for the framework configuration can be provided that can specify the uncertainty and risk in flood risk assessment and decision-making process.

구조물의 설계 최적화를 위한 메트로폴리스 유전알고리즘의 개발 및 적용 (Development and Application of Metropolis Genetic Algorithm for the Structural Design Optimization)

  • 박균빈;류연선;김정태;조현만
    • 한국전산구조공학회:학술대회논문집
    • /
    • 한국전산구조공학회 2003년도 가을 학술발표회 논문집
    • /
    • pp.115-122
    • /
    • 2003
  • A Metropolis genetic algorithm(MGA) is developed and applied for the structural design optimization. In MGA favorable features of Metropolis algorithm in simulated annealing(SA) are incorporated in simple genetic algorithm(SGA), so that the MGA alleviates the disadvantage of finding imprecise solution in SGA and time-consuming computation in SA. Performances of MGA are compared with those of conventional algorithms such as Holland's SGA, Krishnakumar's micro genetic algorithm(μGA), and Kirkpatrick's SA. Typical numerical examples are used to evaluate the favorable features and applicability of MGA From the theoretical evaluation and numerical experience, it is concluded that the proposed MGA is a reliable and efficient tool for structural design optimization.

  • PDF

강우빈도분석에서 확률분포의 매개변수에 대한 불확실성 해석: Bayesian MCMC 및 Metropolis-Hastings 알고리즘을 중심으로 (Uncertainty Analysis for Parameters of Probability Distribution in Rainfall Frequency Analysis: Bayesian MCMC and Metropolis-Hastings Algorithm)

  • 서영민;지홍기;이순탁
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2010년도 학술발표회
    • /
    • pp.1385-1389
    • /
    • 2010
  • 수자원 계획에 있어서 강우 또는 홍수빈도분석시 주로 사용되는 확률의 개념은 상대빈도에 대한 극한으로 확률을 정의하는 빈도학파적 확률관점에 속하며, 확률모델에서 미지의 매개변수들은 고정된 상수로 간주된다. 따라서 확률은 객관적이고 매개변수들은 고정된 값을 가지기 때문에 이러한 매개변수들에 대한 확률론적 설명은 매우 어렵다. 본 연구에서는 강우빈도해석에서 확률분포의 매개변수에 대한 불확실성을 정량화하기 위하여 베이지안 MCMC 및 Metropolis-Hastings 알고리즘을 이용한 불확실성 평가모델을 구축하였다. 그리고 베이지안 MCMC 및 Metropolis-Hastings 알고리즘의 적용을 통하여 확률강우량 산정시 확률분포의 매개변수에 대한 통계학적 특성 및 불확실성 구간을 정량화하였으며, 이를 바탕으로 홍수위험평가 및 의사결정과정에서 불확실성 및 위험도를 충분히 설명할 수 있는 프레임워크 구성을 위한 기초를 마련할 수 있었다.

  • PDF

베이지안 비선형회귀모형의 선택과 진단 (Bayesian Mode1 Selection and Diagnostics for Nonlinear Regression Model)

  • 나종화;김정숙
    • 응용통계연구
    • /
    • 제15권1호
    • /
    • pp.139-151
    • /
    • 2002
  • 본 논문에서는 베이지안 기법을 이용한 비선형회귀모형의 선택법을 제안하였다. 베이즈요인에 기초한 이 방법은 주로 대표본의 경우에 이용되는 고전적 모형선택법에 비해 사전정보를 이용하는 측면과 비내포모형 및 소표본의 경우에 대해서도 효과적으로 사용될 수 있다는 장점을 가진다. 본 논문에서는 정보적 사전분포를 고려하였으며, 베이즈요인의 추정 방법으로 Laplace - Metropolis 추정 법을 제안하였다. 또한 MCMC 과정을 통해 추정된 모수의 수렴진단에 대해서도 고려하였다. 실제자료에 대한 최적의 모형선택 및 진단과정을 구체적으로 제시하였다.

The Exponentiated Weibull-Geometric Distribution: Properties and Estimations

  • Chung, Younshik;Kang, Yongbeen
    • Communications for Statistical Applications and Methods
    • /
    • 제21권2호
    • /
    • pp.147-160
    • /
    • 2014
  • In this paper, we introduce the exponentiated Weibull-geometric (EWG) distribution which generalizes two-parameter exponentiated Weibull (EW) distribution introduced by Mudholkar et al. (1995). This proposed distribution is obtained by compounding the exponentiated Weibull with geometric distribution. We derive its cumulative distribution function (CDF), hazard function and the density of the order statistics and calculate expressions for its moments and the moments of the order statistics. The hazard function of the EWG distribution can be decreasing, increasing or bathtub-shaped among others. Also, we give expressions for the Renyi and Shannon entropies. The maximum likelihood estimation is obtained by using EM-algorithm (Dempster et al., 1977; McLachlan and Krishnan, 1997). We can obtain the Bayesian estimation by using Gibbs sampler with Metropolis-Hastings algorithm. Also, we give application with real data set to show the flexibility of the EWG distribution. Finally, summary and discussion are mentioned.