• Journal of the Korea Society for Simulation
• /
• v.32 no.1
• /
• pp.23-34
• /
• 2023

The purpose of this paper is to review global stochastic optimization algorithms(GSOA) in case binary response experimentation is used and to compare the performances of them. GSOAs utilise estimator of probability of success $\^p$ instead of population probability of success p, since p is unknown and only known by its estimator which has stochastic characteristics. Hill climbing algorithm algorithm, simple random search, random search with random restart, random optimization, simulated annealing and particle swarm algorithm as a population based algorithm are considered as global stochastic optimization algorithms. For the purpose of comparing the algorithms, two types of test functions(one is simple uni-modal the other is complex multi-modal) are proposed and Monte Carlo simulation study is done to measure the performances of the algorithms. All algorithms show similar performances for simple test function. Less greedy algorithms such as Random optimization with Random Restart and Simulated Annealing, Particle Swarm Optimization(PSO) based on population show much better performances for complex multi-modal function.

• The KIPS Transactions:PartB
• /
• v.14B no.7
• /
• pp.523-530
• /
• 2007

This paper proposes a new stochastic optimization algorithm for hidden Markov models (HMMs) used as a recognizer of automatic lipreading. The proposed method combines a global stochastic optimization method, the simulated annealing technique, and the local optimization method, which produces fast convergence and good solution quality. We mathematically show that the proposed algorithm converges to the global optimum. Experimental results show that training HMMs by the method yields better lipreading performance compared to the conventional training methods based on local optimization.

• Journal of Korea Society of Industrial Information Systems
• /
• v.3 no.1
• /
• pp.101-116
• /
• 1998

혼합·이산 비선형 최적화문제 해결을 위한 전역적 최적화 알고리즘이 개발되었으며 이 알고리즘은 확률적 최적화기법인 유전알고리즘을 사용한다. 유전알고리즘은 다양한 설계변수를 처리하는데 적합하다. 그러나 기존의 유전알고리즘이 특별히 잘 수행되지 않는 상황이 많이 존재하기 때문에 혼합화에 대한 다앙한 방법이 개발되어지고 있다. 따라서 이 논문은 유전알고리즘에서 최적해 주위에 대한 국고수수렴기법과 정밀 탐색법을 구체화시킨 새로운 혼합유전알고리즘(NHGA)을 개발했다. 사례연구에서는 혼합·이산 비선형 최적화문제를 해결하는데 있어서 NHGA가 상당한 능력을 제공하며 효율적이고 우수한 해를 제공할 수 있다는 것을 보여주고 있다.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.8 no.5
• /
• pp.98-106
• /
• 1998

This paper proposes an efficient learning algorithm for improving the training performance of the neural network. The proposed method improves the training performance by applying the backpropagation algorithm of a global optimization method which is a hybrid of a stochastic approximation and a conjugate gradient method. The approximate initial point for f a ~gtl obal optimization is estimated first by applying the stochastic approximation, and then the conjugate gradient method, which is the fast gradient descent method, is applied for a high speed optimization. The proposed method has been applied to the parity checking and the pattern classification, and the simulation results show that the performance of the proposed method is superior to those of the conventional backpropagation and the backpropagation algorithm which is a hyhrid of the stochastic approximation and steepest descent method.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2003.05a
• /
• pp.55-58
• /
• 2003

본 논문에서는 유전자 알고리즘을 이용한 무장할당 문제를 제안하였다. 무장할당이란 적의 공격으로부터 방어대상물의 손상을 최소화하거나 적의 공격물 또는 표적의 격추 확률이 최대가 되도록 표적에 대한 방어무기의 적절한 할당을 목적으로 하는 최적화 문제로서, 본 논문에서는 무장할당 문제에 전역 최적화의 강점을 가진 유전자 알고리즘을 적용하였다. 무장할당문제에 적합한 유전자 알고리즘 형태와 파라메타를 선정하는 방법을 제시하였고, 시뮬레이션을 통해서 기존의 전통적인 최적화 기법과의 성능 비교를 수행한 결과, 제안된 방법이 우수함을 입증하였다.

• Journal of the Korean Society for Aeronautical & Space Sciences
• /
• v.38 no.6
• /
• pp.557-563
• /
• 2010

This paper addresses the issue of adaptive global optimization using Kriging metamodel known as EGO(Efficient Global Optimization). The algorithm adaptively chooses where to generate subsequent samples based on an explicit trade-off between reduction of global uncertainty and exploration of the region of the interest. A strategy that saves the computational cost by using expectations derived from probabilistic nature of approximate model is proposed. At every iteration, a candidate test point that seems to be feasible/inactive or has little possibility to improve for minimum is identified and excluded from updating approximate models. By doing that the computational cost is saved without loss of accuracy.

• Proceedings of the KIEE Conference
• /
• 2015.07a
• /
• pp.493-494
• /
• 2015

전원설비 투자계획은 주어진 기간 하에서 최적 발전기 투입용량 및 시기를 결정하는 문제이다. 전원설비의 준공일정은 다양한 사회적 요인의 영향으로 불확실성에 노출되어 있다. 본 논문에서는 전원설비 준공 불확실성을 고려한 전원설비 계획 문제를 제시한다. 발전설비의 준공지연 불확실성은 이산 확률론적 밀도함수를 갖는 확률변수로 표현된다. 최적화 문제에서 확률변수를 고려하기 위해 2단계 확률론적 계획법이 도입된다. 주문제-부문제로 분해된 최적화 문제는 쌍대함수 정보를 교환하는 반복연산을 수행하여 최적 전역해에 도달할 수 있다.

• Journal of the Korea Society for Simulation
• /
• v.28 no.4
• /
• pp.21-32
• /
• 2019

Inspired by the social behavior models of a bird flock or fish school, particle swarm optimization (PSO) is a popular metaheuristic optimization algorithm and has been widely used from solving a complex optimization problem to learning a artificial neural network. However, PSO is difficult to apply to many real-life optimization problems involving stochastic noise, since it is originated in a deterministic environment. To resolve this problem, this paper incorporates a resampling method called the uncertainty evaluation (UE) method into PSO. The UE method allows the particles to converge on the accurate optimal solution quickly in a noisy environment by selecting the particles' global best position correctly, one of the significant factors in the performance of PSO. The results of comparative experiments on several benchmark problems demonstrated the improved performance of the propose algorithm compared to the existing studies. In addition, the results of the case study emphasize the necessity of this work. The proposed algorithm is expected to be effectively applied to optimize complex systems through digital twins in the fourth industrial revolution.

• ICROS
• /
• v.10 no.3
• /
• pp.27-33
• /
• 2004

최적화는 시스템공학에서 자주 등장하는 문제이며 흔히 다음과 같은 수학적 계획(mathematical programming) 문제로 표현된다. min f(x) (P) subject to g(x) ≤ 0 h(x) ： 0 여기서 x∈R/sup n/, f：R/sup n/→R, g：R/sup n/→R/sup l/, h：R/sup n/→R/sup m/, 그리고 n m이다. 만약 목적함수(objective function)와 가능 영역(feasible region)이 볼록(convex)하다면, 예를 틀어 f(x)와 g(x)가 아래로 볼록하고 h(x)가 선형이라면. 이는 볼록 문제(convex problem)이며 오직 하나의 지역 최소점(local minimum)을 가진다. 그러나 많은 경우. 예를 들어 h(x)가 비선형이라면, 여러 개의 지역 최소점을 가질 수 있는 비 볼록 문제(nonconvex problem)가 된다. 이때 진정한 최소점을 찾는 것. 즉 전역 최적화 (global optimization)가 요구된다.(중략)

• Proceedings of the KIEE Conference
• /
• 2003.11a
• /
• pp.110-112
• /
• 2003

본 논문에서는 확률적인 전역 최적화 알고리즘인 유전 알고리즘과 경험적인 최적화 알고리즘인 타부 탐색법을 병렬화함으로써 최적해 탐색성능 및 탐색속도를 개선하는 방안을 개발하였다. 배전계통의 주변압기에서 고장이 발생한 경우에는 여러 정전구역에 대한 복구문제가 되어 매우 복잡하고 많은 연산량을 수반한다. 따라서 제안한 고장복구 알고리즘은 PC 클러스트링을 이용하여 각 프로세서별로 유전 알고리즘 또는 타부 탐색법을 사용하여 최적해를 탐색한 후 일정 기간 이후에 해를 교환함으로써 배전계통에서의 주변압기 고장발생시 최적해 탐색에 소요되는 시간을 단축하였으며 고장복구 지원시스템의 성능개선을 도모하였다. 제안한 알고리즘의 유용성을 입증하기 위하여 한전의 실 배전계통 주변압기 고장복구 문제에 적용함으로써 제안한 알고리즘이 해의 탐색속도 및 해의 성능면에서 우수함을 입증하였다.