• 제목/요약/키워드: reward function

검색결과 93건 처리시간 0.029초

추계적 프로세스 기반 동적 전력 관리 (Dynamic Power Management based on Stochastic Processes)

  • 노철우;김경민;폴 무두시
    • 한국콘텐츠학회:학술대회논문집
    • /
    • 한국콘텐츠학회 2007년도 추계 종합학술대회 논문집
    • /
    • pp.197-200
    • /
    • 2007
  • 동적 전력 관리는 서로 다른 전력소모를 갖는 전력상태들을 시스템 구성 요소에 할당하고 상황별로 전력상태를 관리함으로써 시스템의 전력 소모를 현저하게 줄여줄 수 있다. 전력관리의 주 기능은 구성요소의 상태천이를 언제 수행하느냐 이며 이를 위하여 추계적 프로세스에 기반한 동적 전력관리 모델을 개발한다. 동적 모델은 시스템 큐와 다양한 모델링 기능을 표현할 수 있는 페트리 네트의 확장형인 SRN(Stochastic Reward Nets)을 이용하여 개발되며 성능분석을 함께 수행한다.

  • PDF

불확실성이 높은 의사결정 환경에서 SR 기반 강화학습 알고리즘의 성능 분석 (Evaluating SR-Based Reinforcement Learning Algorithm Under the Highly Uncertain Decision Task)

  • 김소현;이지항
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제11권8호
    • /
    • pp.331-338
    • /
    • 2022
  • 차기 상태 천이 표상(Successor representation, SR) 기반 강화학습 알고리즘은 두뇌에서 발현되는 신경과학적 기전을 바탕으로 발전해온 강화학습 모델이다. 해마에서 형성되는 인지맵 기반의 환경 구조 정보를 활용하여, 변화하는 환경에서도 빠르고 유연하게 학습하고 의사결정 가능한 자연 지능 모사형 강화학습 방법으로, 불확실한 보상 구조 변화에 대해 빠르게 학습하고 적응하는 강인한 성능을 보이는 것으로 잘 알려져 있다. 본 논문에서는 표면적인 보상 구조가 변화하는 환경뿐만 아니라, 상태 천이 확률과 같은 환경 구조 내 잠재 변수가 보상 구조 변화를 유발하는 상황에서도 SR-기반 강화학습 알고리즘이 강인하게 반응하고 학습할 수 있는지 확인하고자 한다. 성능 확인을 위해, 상태 천이에 대한 불확실성과 이로 인한 보상 구조 변화가 동시에 나타나는 2단계 마르코프 의사결정 환경에서, 목적 기반 강화학습 알고리즘에 SR을 융합한 SR-다이나 강화학습 에이전트 시뮬레이션을 수행하였다. 더불어, SR의 특성을 보다 잘 관찰하기 위해 환경을 변화시키는 잠재 변수들을 순차적으로 제어하면서 기존의 환경과 비교하여 추가적인 실험을 실시하였다. 실험 결과, SR-다이나는 환경 내 상태 천이 확률 변화에 따른 보상 변화를 제한적으로 학습하는 행동을 보였다. 다만 기존 환경에서의 실험 결과와 비교했을 때, SR-다이나는 잠재 변수 변화로 인한 보상 구조 변화를 빠르게 학습하지는 못하는 것으로 확인 되었다. 본 결과를 통해 환경 구조가 빠르게 변화하는 환경에서도 강인하게 동작할 수 있는 SR-기반 강화학습 에이전트 설계를 기대한다.

교차로에서 자율주행을 위한 심층 강화 학습 활성화 함수 비교 분석 (Comparison of Activation Functions using Deep Reinforcement Learning for Autonomous Driving on Intersection)

  • 이동철
    • 한국인터넷방송통신학회논문지
    • /
    • 제21권6호
    • /
    • pp.117-122
    • /
    • 2021
  • 자율주행은 자동차가 사람 없이 운전할 수 있도록 해 주며 최근 인공지능 기술의 발전에 힘입어 매우 활발히 연구되고 있다. 인공지능 기술 중에서도 특히 심층 강화 학습이 가장 효과적으로 사용되는데 이를 위해서는 적절한 활성화 함수를 이용한 신경망 구축이 필수적이다. 여태껏 많은 활성화 함수가 제시됐으나 적용 분야에 따라 서로 다른 성능을 보여주었다. 본 논문은 교차로에서 자율주행을 학습하기 위해 심층 강화 학습을 사용할 때 어떤 활성화 함수를 사용하는 것이 효과적인지 성능을 비교 평가한다. 이를 위해 평가에서 사용할 성능 메트릭을 정의하고 각 활성화 함수에 따른 메트릭의 값을 그래프로 비교하였다. 그 결과 Mish를 사용할 경우 보상이 다른 활성화 함수보다 평균적으로 높은 것을 알 수 있었고 보상이 가장 낮은 활성화 함수와의 차이는 9.8%였다.

Comparison of Reinforcement Learning Activation Functions to Improve the Performance of the Racing Game Learning Agent

  • Lee, Dongcheul
    • Journal of Information Processing Systems
    • /
    • 제16권5호
    • /
    • pp.1074-1082
    • /
    • 2020
  • Recently, research has been actively conducted to create artificial intelligence agents that learn games through reinforcement learning. There are several factors that determine performance when the agent learns a game, but using any of the activation functions is also an important factor. This paper compares and evaluates which activation function gets the best results if the agent learns the game through reinforcement learning in the 2D racing game environment. We built the agent using a reinforcement learning algorithm and a neural network. We evaluated the activation functions in the network by switching them together. We measured the reward, the output of the advantage function, and the output of the loss function while training and testing. As a result of performance evaluation, we found out the best activation function for the agent to learn the game. The difference between the best and the worst was 35.4%.

인지적 통제 과정에 미치는 노화의 비대칭적 영향: ERP 연구 (Asymmetric effect of aging on cognitive control processes: An ERP study)

  • 진영선;김현옥
    • 인지과학
    • /
    • 제28권4호
    • /
    • pp.245-265
    • /
    • 2017
  • 최근 인지적 통제에 대한 연구들은 최적의 통제 수준이 보상과 비용에 의해 결정된다는 것을 밝혀냈다. 보상이 가지는 가치는 주관적이며 이에 따라 최적의 신호 강도도 달라진다. 우리는 인지적 통제에 대한 노화의 영향에 대한 연구 결과들이 비일관적인 이유가 노인이 탄력적으로 통제 신호를 조절한 결과일 수 있다고 보았다. 다시 말해, 노인은 최적의 통제 수준을 결정하는 능력을 잘 유지하고 있을 수 있는데, 이는 전대상회의 역할로 알려져 있다. 반면 인지적 통제에서 노화에 따른 기능의 감퇴는 주로 규칙 표상의 유지와 억제에서 나타나는데, 이는 주로 외측전전두피질이 담당하고 있다. 본 연구는 청년과 노인에게 보상의 유형을 조절한 Go-Nogo 과제를 수행하게 하여 각 보상 조건에서 행동결과와 ERN(Error-Related Negativity) 크기를 비교하였다. 두 집단 모두는 각 연령에게 가장 중요하다고 여겨지는 조건에서 가장 뛰어난 행동 수행과 가장 큰 ERN 크기를 나타내었다. 또한 노인은 d'과 정확률에서는 연령차를 나타내었으나 ERN의 크기에서는 연령차를 나타내지 않았다. 이와 같은 결과는 인지적 통제의 각 과정에 대한 노화의 영향이 상이할 수 있을 가능성을 보여준다.

추계학적 확률과정을 이용한 경사제 피복재의 예방적 유지관리를 위한 조건기반모형 (Condition-Based Model for Preventive Maintenance of Armor Units of Rubble-Mound Breakwaters using Stochastic Process)

  • 이철응
    • 한국해안·해양공학회논문집
    • /
    • 제28권4호
    • /
    • pp.191-201
    • /
    • 2016
  • 추계학적 확률과정을 이용하여 경사제 피복재를 예방적으로 유지관리할 수 있는 조건기반모형을 개발하였다. 완전 보수보강 조건에서 가장 경제적으로 보수보강이 수행되어야 하는 최적의 시점을 결정할 수 있는 모형이다. 본 연구에서 개발된 RRP(Renewal Reward Process) 기반 경제성 모형은 이자율을 고려할 수 있을 뿐만 아니라 기존 연구에서 상수로 취급하던 비용을 시간에 따른 확률변수로 고려할 수 있다. 누적피해와 사용한계 그리고 구조물의 중요도를 모두 고려할 수 있는 함수식을 제시하여 ABM(Age-Based Maintenance)을 CBM(Condition-Based Maintenance)으로 쉽게 확장할 수 있게 하였다. 또한 함수식에 포함된 계수들을 수학적으로 산정할 수 있는 방법도 제시하였다. 두 가지 추계학적 확률과정, WP(Wiener Process)와 GP(Gamma Process)를 이용하여 경사제 사석재를 해석하였다. 사용한계, 이자율 그리고 구조물의 중요도에 따라 시간에 따른 기대총비용율을 산정하여 기대총비용율이 최소가 되는 예방적 유지관리의 최적 시점을 쉽게 추정할 수 있었다. 동일한 사용한계에서 이자율이 높을수록 최적시점은 늦어지고 그에 따라 기대총비용율도 낮아졌다. 또한 상대적으로 GP가 WP보다 더 보수적으로 최적시점을 예측하였다. 마지막으로 동일한 조건에서 구조물의 중요도가 높을수록 더 자주 예방적 보수보강을 실시하여야 한다는 것을 알았다.

THE IMPACT OF STRESS ON ADDICTION

  • Goeders Nick E.
    • 한국응용약물학회:학술대회논문집
    • /
    • 한국응용약물학회 2004년도 Annual Meeting of the Korean Society ofApplied Pharmacology
    • /
    • pp.18-34
    • /
    • 2004
  • This paper will review data obtained primarily from our preclinical investigations that show that exposure to stress has a significant impact on drug taking. Stress increases reward associated with psychomotor stimulants, possibly through a process similar to sensitization, and a growing clinical literature indicates that there is also a link between substance abuse and stress in human addicts. One explanation for the high concordance between stress-related disorders and drug addiction is the self-medication hypothesis, which suggests that a dually-diagnosed person often uses the abused substance to cope with tension associated with life stressors or to relieve symptoms of anxiety and depression resulting from a traumatic event. However, another characteristic of drug self-administration is that drug delivery and its subsequent effects on the HPA axis are under the direct control of the individual. This controlled activation of the HPA axis may result in the production of an internal state of arousal or stimulation that is actually sought by the individual (i.e., the sensation-seeking hypothesis). During abstinence, however, exposure to stressors or drug-associated cues can stimulate the HP A axis to remind the individual about the effects of the abused substance, thus producing craving and promoting relapse. Stress reduction, either alone or in combination with pharmacotherapies targeting the HPA axis may prove beneficial in reducing cravings and promoting abstinence in individuals seeking treatment for addiction. Of primary importance is to reduce the impact of cocaine-associated environmental stimuli on the HPA axis so that they no longer function as triggers for relapse.

  • PDF

QFD방법을 이용한 의료 서비스 개선전략에 관한 연구 (A Study on Strategy for Improving Health Care Service through Quality Function Deployment)

  • 김순이;최재하
    • 품질경영학회지
    • /
    • 제27권2호
    • /
    • pp.1-19
    • /
    • 1999
  • It is truism to say that today's customers demand high quality products and services; nevertheless, nowhere is this more prevalent than in the medical industry. Korea's globalization has increased it's citizen's awareness of greater life expectancies and medical improvements in other regions of the globe. Therefore, it is universally essential that in order to be successful in the medical industry, vendors must meet the ever increasing demands of better educated customers. The purpose of this study was twofold: 1) The first objective was discover what health care services are in demand and the quality factors related to these services. 2) The second objective was to determine a strategy for improving health care service through quality function deployment(QFD). One hundred and ninety-five respondents were randomly selected and asked to fill out a questionnaire after having undergone treatment at a medical clinic, located in Daejon, South Korea. The questionnaire was designed to obtain information about both he clients' satisfaction with, and their sense of the value of the medical treatment they received. Penalty-reward analysis and QFD were used to interpret the survey results and to deploy the collective voices of the customers. The results of the penalty-reward analysis illustrated that the 'communication' service quality factor was classified into an excitement factor that incurs no penalty if not achieved but adds value if the requirement is exceeded. As a result of the QFD analysis on the 'communication' service quality factor, eleven strategic alternatives were prioritized, and isolated a vital service quality characteristic. This characteristic can be implemented to bring value-added changes for the improvement of health care services.

  • PDF

확장된 강화학습 시스템의 정형모델 (Formal Model of Extended Reinforcement Learning (E-RL) System)

  • 전도영;송명호;김수동
    • 인터넷정보학회논문지
    • /
    • 제22권4호
    • /
    • pp.13-28
    • /
    • 2021
  • 강화학습은 한 환경에서 에이전트가 정책에 따라 액션을 취하고 보상 함수를 통해 액션을 평가 및 정책 최적화 과정을 반복하는 Closed-Loop 구조로 이루어진 알고리즘이다. 이러한 강화학습의 주요 장점은 액션의 품질을 평가하고 정책을 지속적으로 최적화 하는 것이다. 따라서, 강화학습은 지능형 시스템, 자율제어 시스템 개발에 효과적으로 활용될 수 있다. 기존의 강화학습은, 단일 정책, 단일 보상함수 및 비교적 단순한 정책 업데이트 기법을 제한적인 문제에 대해 제시하고 적용하였다. 본 논문에서는 구성요소의 복수성을 지원하는 확장된 강화학습 모델을 제안한다. 제안되는 확정 강화학습의 주요 구성 요소들을 정의하고, 그들의 컴퓨팅 모델을 포함하는 정형 모델을 제시한다. 또한, 이 정형모델을 기반으로 시스템 개발을 위한 설계 기법을 제시한다. 제안한 모델을 기반으로 자율 최적화 자동차 내비게이터 시스템에 적용 및 실험을 진행한다. 제시된 정형 모델과 설계 기법을 적용한 사례연구로, 복수의 자동차들이 최적 목적지에 단 시간에 도착할 수 있는 진화된 내비게이터 시스템 설계 및 구현을 진행한다.

심층 결정론적 정책 경사법을 이용한 선박 충돌 회피 경로 결정 (Determination of Ship Collision Avoidance Path using Deep Deterministic Policy Gradient Algorithm)

  • 김동함;이성욱;남종호;요시타카 후루카와
    • 대한조선학회논문집
    • /
    • 제56권1호
    • /
    • pp.58-65
    • /
    • 2019
  • The stability, reliability and efficiency of a smart ship are important issues as the interest in an autonomous ship has recently been high. An automatic collision avoidance system is an essential function of an autonomous ship. This system detects the possibility of collision and automatically takes avoidance actions in consideration of economy and safety. In order to construct an automatic collision avoidance system using reinforcement learning, in this work, the sequential decision problem of ship collision is mathematically formulated through a Markov Decision Process (MDP). A reinforcement learning environment is constructed based on the ship maneuvering equations, and then the three key components (state, action, and reward) of MDP are defined. The state uses parameters of the relationship between own-ship and target-ship, the action is the vertical distance away from the target course, and the reward is defined as a function considering safety and economics. In order to solve the sequential decision problem, the Deep Deterministic Policy Gradient (DDPG) algorithm which can express continuous action space and search an optimal action policy is utilized. The collision avoidance system is then tested assuming the $90^{\circ}$intersection encounter situation and yields a satisfactory result.