• 제목/요약/키워드: Markov Reward Model

검색결과 12건 처리시간 0.02초

소프트웨어 신뢰성의 정량적 분석 방법론 (A Quantitative Analysis Theory for Reliability of Software)

  • 조용순;윤현상;이은석
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제15권7호
    • /
    • pp.500-504
    • /
    • 2009
  • 전통적인 소프트웨어 공학 관점에서 소프트웨어의 비 기능적 요구사항 중 하나인 신뢰성은, 소프트웨어 개발 프로세스에서 마지막 단계인 통합 테스트 이후에 검증이 가능하다. 그러나 이것은 소프트웨어 개발에 있어서 많은 위험성과 개발 비용을 발생시킨다. 따라서 본 논문에서는 소프트웨어 개발 초기 단계에서 수학적인 분석 모델을 통해 신뢰성을 분석할 수 있는 방법을 제안한다. 소프트웨어의 신뢰성분석을 위하여 본 논문에서는 다음 두 가지를 제안한다. 첫째로, 계층형 큐잉 패트리넷을 이용하여 신뢰성 분석을 위한 소프트웨어 모델링 방법론을 제안한다. 둘째로, 완성된 계층형 큐잉 패트리넷 모델로부터 신뢰성 분석을 위한 마코프 리워드 모델(Markov Reward Model)을 유도해내는 방법에 관하여 제안한다. 본 논문의 유효성을 검증하기 위하여, 화상회의 시스템 개발사례에 적용하였다. 본 연구 결과를 통해 소프트웨어 신뢰성의 정량적인 분석이 가능하다.

Two-Dimensional POMDP-Based Opportunistic Spectrum Access in Time-Varying Environment with Fading Channels

  • Wang, Yumeng;Xu, Yuhua;Shen, Liang;Xu, Chenglong;Cheng, Yunpeng
    • Journal of Communications and Networks
    • /
    • 제16권2호
    • /
    • pp.217-226
    • /
    • 2014
  • In this research, we study the problem of opportunistic spectrum access (OSA) in a time-varying environment with fading channels, where the channel state is characterized by both channel quality and the occupancy of primary users (PUs). First, a finite-state Markov channel model is introduced to represent a fading channel. Second, by probing channel quality and exploring the activities of PUs jointly, a two-dimensional partially observable Markov decision process framework is proposed for OSA. In addition, a greedy strategy is designed, where a secondary user selects a channel that has the best-expected data transmission rate to maximize the instantaneous reward in the current slot. Compared with the optimal strategy that considers future reward, the greedy strategy brings low complexity and relatively ideal performance. Meanwhile, the spectrum sensing error that causes the collision between a PU and a secondary user (SU) is also discussed. Furthermore, we analyze the multiuser situation in which the proposed single-user strategy is adopted by every SU compared with the previous one. By observing the simulation results, the proposed strategy attains a larger throughput than the previous works under various parameter configurations.

Stochastic Petri Nets Modeling Methods of Channel Allocation in Wireless Networks

  • Ro, Cheul-Woo;Kim, Kyung-Min
    • International Journal of Contents
    • /
    • 제4권3호
    • /
    • pp.20-28
    • /
    • 2008
  • To obtain realistic performance measures for wireless networks, one should consider changes in performance due to failure related behavior. In performability analysis, simultaneous consideration is given to both pure performance and performance with failure measures. SRN is an extension of stochastic Petri nets and provides compact modeling facilities for system analysis. In this paper, a new methodology to model and analyze performability based on stochastic reward nets (SRN) is presented. Composite performance and availability SRN models for wireless handoff schemes are developed and then these models are decomposed hierarchically. The SRN models can yield measures of interest such as blocking and dropping probabilities. These measures are expressed in terms of the expected values of reward rate functions for SRNs. Numerical results show the accuracy of the hierarchical model. The key contribution of this paper constitutes the Petri nets modeling techniques instead of complicate numerical analysis of Markov chains and easy way of performance analysis for channel allocation under SRN reward concepts.

A Hierarchical Model for Mobile Ad Hoc Network Performability Assessment

  • Zhang, Shuo;Huang, Ning;Sun, Xiaolei;Zhang, Yue
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제10권8호
    • /
    • pp.3602-3620
    • /
    • 2016
  • Dynamic topology is one of the main influence factors on network performability. However, it was always ignored by the traditional network performability assessment methods when analyzing large-scale mobile ad hoc networks (MANETs) because of the state explosion problem. In this paper, we address this problem from the perspective of complex network. A two-layer hierarchical modeling approach is proposed for MANETs performability assessment, which can take both the dynamic topology and multi-state nodes into consideration. The lower level is described by Markov reward chains (MRC) to capture the multiple states of the nodes. The upper level is modeled as a small-world network to capture the characteristic path length based on different mobility and propagation models. The hierarchical model can promote the MRC of nodes into a state matrix of the whole network, which can avoid the state explosion in large-scale networks assessment from the perspective of complex network. Through the contrast experiments with OPNET simulation based on specific cases, the method proposed in this paper shows satisfactory performance on accuracy and efficiency.

Economic Adjustment Design For $\bar{X}$ Control Chart: A Markov Chain Approach

  • Yang, Su-Fen
    • International Journal of Quality Innovation
    • /
    • 제2권2호
    • /
    • pp.136-144
    • /
    • 2001
  • The Markov Chain approach is used to develop an economic adjustment model of a process whose quality can be affected by a single special cause, resulting in changes of the process mean by incorrect adjustment of the process when it is operating according to its capability. The $\bar{X}$ control chart is thus used to signal the special cause. It is demonstrated that the expressions for the expected cycle time and the expected cycle cost are easier to obtain by the proposed approach than by adopting that in Collani, Saniga and Weigang (1994). Furthermore, this approach would be easily extended to derive the expected cycle cost and the expected cycle time for the case of multiple special causes or multiple control charts. A numerical example illustrates the proposed method and its application.

  • PDF

Performability Analysis of Token Ring Networks using Hierarchical Modeling

  • Ro, Cheul-Woo;Park, Artem
    • International Journal of Contents
    • /
    • 제5권4호
    • /
    • pp.88-93
    • /
    • 2009
  • It is important for communication networks to possess the capability to overcome failures and provide survivable services. We address modeling and analysis of performability affected by both performance and availability of system components for a token ring network under failure and repair conditions. Stochastic reward nets (SRN) is an extension of stochastic Petri nets and provides compact modeling facilities for system analysis. In this paper, hierarchical SRN modeling techniques are used to overcome state largeness problem. The upper level model is used to compute availability and the lower level model captures the performance. And Normalized Throughput Loss (NTL) is obtained for the composite ring network for each node failures occurrence as a performability measure. One of the key contributions of this paper constitutes the Petri nets modeling techniques instead of complicate numerical analysis of Markov chains and easy way of performability analysis for a token ring network under SRN reward concepts.

불확실성이 높은 의사결정 환경에서 SR 기반 강화학습 알고리즘의 성능 분석 (Evaluating SR-Based Reinforcement Learning Algorithm Under the Highly Uncertain Decision Task)

  • 김소현;이지항
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제11권8호
    • /
    • pp.331-338
    • /
    • 2022
  • 차기 상태 천이 표상(Successor representation, SR) 기반 강화학습 알고리즘은 두뇌에서 발현되는 신경과학적 기전을 바탕으로 발전해온 강화학습 모델이다. 해마에서 형성되는 인지맵 기반의 환경 구조 정보를 활용하여, 변화하는 환경에서도 빠르고 유연하게 학습하고 의사결정 가능한 자연 지능 모사형 강화학습 방법으로, 불확실한 보상 구조 변화에 대해 빠르게 학습하고 적응하는 강인한 성능을 보이는 것으로 잘 알려져 있다. 본 논문에서는 표면적인 보상 구조가 변화하는 환경뿐만 아니라, 상태 천이 확률과 같은 환경 구조 내 잠재 변수가 보상 구조 변화를 유발하는 상황에서도 SR-기반 강화학습 알고리즘이 강인하게 반응하고 학습할 수 있는지 확인하고자 한다. 성능 확인을 위해, 상태 천이에 대한 불확실성과 이로 인한 보상 구조 변화가 동시에 나타나는 2단계 마르코프 의사결정 환경에서, 목적 기반 강화학습 알고리즘에 SR을 융합한 SR-다이나 강화학습 에이전트 시뮬레이션을 수행하였다. 더불어, SR의 특성을 보다 잘 관찰하기 위해 환경을 변화시키는 잠재 변수들을 순차적으로 제어하면서 기존의 환경과 비교하여 추가적인 실험을 실시하였다. 실험 결과, SR-다이나는 환경 내 상태 천이 확률 변화에 따른 보상 변화를 제한적으로 학습하는 행동을 보였다. 다만 기존 환경에서의 실험 결과와 비교했을 때, SR-다이나는 잠재 변수 변화로 인한 보상 구조 변화를 빠르게 학습하지는 못하는 것으로 확인 되었다. 본 결과를 통해 환경 구조가 빠르게 변화하는 환경에서도 강인하게 동작할 수 있는 SR-기반 강화학습 에이전트 설계를 기대한다.

재경로 설정을 고려한 통신망의 신뢰도 분석 모델링 (Reliability Analysis Modeling of Communication Networks Considering Rerouting)

  • 노철우
    • 한국콘텐츠학회논문지
    • /
    • 제9권1호
    • /
    • pp.45-52
    • /
    • 2009
  • 본 논문에서는 통신망의 큐잉망 모델을 링크 고장을 고려한 신뢰도 모델과 함께 개발한다. 가상연결을 갖는 통신망에서 링크 고장시의 신뢰도 분석이 수행된다. 확장된 추계적 페트리 네트인 SRN은 시스템 분석을 위한 다양한 모델링 기능을 제공해 주며 적절한 보상율을 모델에 할당해 줌으로써 원하는 성능지표를 쉽게 구할 수 있다. 재경로를 갖는 신뢰도 분석을 위하여 모델 규격을 정하고 자동으로 모델을 생성하고 그 해를 구하는데 SRN 모델링이 적합함을 보여준다. 링크 고장에 따른 다양한 재경로 설정과 신뢰도 분석을 위하여 SRN을 이용한 마르코프 모델이 개발되고 그 해가 구해진다.

멀티미디어 이동 통신 시스템의 채널 할당을 위한 페트리 네트 모델링과 성능분석 (Petri Nets Modelling and Performance Analysis of Multimedia Mobile Communication Systems for Channel Allocations)

  • 노철우;최재승
    • 한국멀티미디어학회논문지
    • /
    • 제5권6호
    • /
    • pp.704-711
    • /
    • 2002
  • 멀티미디어 이동 통신 시스템은 음성 교환 및 패킷 교환의 실시간과 비실시간의 세 종류 서비스 클래스에 의해 특징지어 진다. 셀에서의 무선 채널은 이들 서로 다른 서비스 클래스의 호에 할당되어 지며 서로 다른 서비스 요구사항을 만족해야 한다. SRN은 추계적 페트리 네트의 확장형으로 모델에 적절한 reward(보상)을 부여함으로써 원하는 성능지표를 쉽게 계산할 수 있는 모델링 도구이다. 본 논문에서는 멀티미디어 이동 통신 시스템의 채널할당과 성능분석을 위한 SRN 모델을 제시한다. 본 논문의 기여도는 성능분석을 위해 필요한 마르코프 체인의 복잡한 해석적 분석대신 종류별 서비스 클래스에 대한 채널할당을 수행할 수 있는 페트리 네트 모델링 기법을 제시하고 모델에서의 보상 개념에 의한 손쉬운 성능분석 수행 방법을 제시하는데 있다.

  • PDF

모듈러 셀의 운영과 수행성 해석 (Operation and performability analysis of modular cells)

  • 허견;장석호;정현호;이상문;우광방;김학배
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
    • /
    • pp.1263-1266
    • /
    • 1997
  • In a fault-tolerant modern manufacturing systms characterized by the configuration, in which automated redundant machines prone to unexpected failures are interconnected with other complex subsystems such as AGV's, robots, computer control systems to produce complete parts, faulures together with repairs and reconfigurations should be considered as the three basic events to be modeled for computing the performance of manufacturing systems. In this papre, transient analysis is applied to modular cell manufacturing systems form a performability viewpoint whose modeling adantage is that various performanc e measures can be evaluated compositely in the context of application. The hypothertical modular cells are modeled firstly with hybrid decomposition method and availability measures as special cases of performability are computed and comments on performabililty modeling analysis are mentioned.

  • PDF