• 제목/요약/키워드: Agent Behavior Simulation

검색결과 97건 처리시간 0.027초

Application of reinforcement learning to hyper-redundant system Acquisition of locomotion pattern of snake like robot

  • Ito, K.;Matsuno, F.
    • 한국지능정보시스템학회:학술대회논문집
    • /
    • 한국지능정보시스템학회 2001년도 The Pacific Aisan Confrence On Intelligent Systems 2001
    • /
    • pp.65-70
    • /
    • 2001
  • We consider a hyper-redundant system that consists of many uniform units. The hyper-redundant system has many degrees of freedom and it can accomplish various tasks. Applysing the reinforcement learning to the hyper-redundant system is very attractive because it is possible to acquire various behaviors for various tasks automatically. In this paper we present a new reinforcement learning algorithm "Q-learning with propagation of motion". The algorithm is designed for the multi-agent systems that have strong connections. The proposed algorithm needs only one small Q-table even for a large scale system. So using the proposed algorithm, it is possible for the hyper-redundant system to learn the effective behavior. In this algorithm, only one leader agent learns the own behavior using its local information and the motion of the leader is propagated to another agents with time delay. The reward of the leader agent is given by using the whole system information. And the effective behavior of the leader is learned and the effective behavior of the system is acquired. We apply the proposed algorithm to a snake-like hyper-redundant robot. The necessary condition of the system to be Markov decision process is discussed. And the computer simulation of learning the locomotion is demonstrated. From the simulation results we find that the task of the locomotion of the robot to the desired point is learned and the winding motion is acquired. We can conclude that our proposed system and our analysis of the condition, that the system is Markov decision process, is valid.

  • PDF

지능공간에서의 인간행동 인식을 통한 노약자 및 환자의 위급상황 알람 서비스 (Emergency Alarm Service for the old and the weak by Human Behavior Recognition in Intelligent Space)

  • 이정엄;김주형;이현구;김상준;김대환;박귀태
    • 로봇학회논문지
    • /
    • 제2권4호
    • /
    • pp.297-303
    • /
    • 2007
  • In this paper, we discuss a service to give alarm in the case of emergency for the old and the weak by human behavior recognition in Intelligent Space. Our Intelligent Space consists of mobile robots, sensors and agents. And these components are connected to network framework. Agent analyzes data acquired from networked sensors and determines task of robots and a space to provide a service for humans. In our emergency alarm service, human behavior recognition service module analyzes accelerometer data obtained from body-attached human behavior sensing platform, and classifies into four basic human behavior such as walking, running, sitting and falling-down. For the old and the weak, falling-down behavior may bring about dangerous situations. On such an occasion, agent executes emergency alarm service immediately. And then a selected mobile robot approaches fallen person and sends images of the person to guardians. In this paper, we set up a scenario to verify the emergency alarm service in Intelligent Space, and show feasibility of the service from our simulation experiments.

  • PDF

내제된 행위 유발 가능성을 활용하는 사용자 행동 시뮬레이션 기술의 개발에 관한 연구 (A Study on the Development of the User Behavior Simulation Technology Using a Perceived Action Possibilities)

  • 이윤길;박창훈;임동혁
    • 한국멀티미디어학회논문지
    • /
    • 제17권11호
    • /
    • pp.1335-1344
    • /
    • 2014
  • In architectural design, the user is one of the most important factors for the design task as well as the standard for evaluating the value of the built environment after its construction. Recently, accidents, such as fires and breakdowns, in huge and complicated buildings have increased the importance of user behavior simulation. The Korean government has tried to establish a regulation for the prevention of accidents in the built environment. This is regarded as a significant step forward for providing a safer and more appropriate environment for users. However, the existing technologies related to analyzing user behavior only simulate simplified situations. Such simulations are not enough to evaluate accurately the designed alternatives because buildings and spaces contain more complicated information than what we have conventionally considered. Thus, we propose that the advanced agent can interact with the architectural context. It can understand not only the physical situation but also how the users affect this situation. In order to realize this, we adopted the concept of affordances as the perceived action possibilities for the simulation environment.

An Alternative Evaluation of the Item-based Collaborative Filtering Using Simulated Online Shopping

  • Ahn, Hyung-Jun
    • Journal of Information Technology Applications and Management
    • /
    • 제16권3호
    • /
    • pp.17-28
    • /
    • 2009
  • This paper presents a novel method for evaluating the usefulness of online product recommendation. Previous studies on evaluating recommendation systems have mostly relied on two methods : testing the accuracy of estimating user preferences by recommendation systems, or empirically testing the effectiveness with lab experiments involving human participants. The former does not measure the usefulness directly and hence can be misleading; the latter is expensive in that it requires a working online store System and test participants. In order to address the problems, the proposed approach uses simulation to imitate customer behavior and evaluate the usefulness of recommendation. Models for user behavior and an abstract Internet store are developed for simulation. Actual simulation experiments are performed to illustrate the use of the approach.

  • PDF

행위자 기반 모형을 활용한 농촌관광 사업 주민 참여 연구 - 계획된 행동 이론을 바탕으로 - (A Study on Residents' Participation in Rural Tourism Project Using an Agent-Based Model - Based on the Theory of Planned Behavior -)

  • 안승혁;윤순진
    • 농촌계획
    • /
    • 제27권2호
    • /
    • pp.77-89
    • /
    • 2021
  • To predict the level of residents' participation in rural tourism project, we used agent-based model. The decision-making mechanism which calculates the utility related to attitude, subjective norm, perceived behavioral control of planned behavior theory was applied to the residents' decision to participate. As a result of the simulation over a period of 20 years, in the baseline scenario set similar to the general process of promoting rural projects, the proportion of indigenous people decreased and the participation rate decreased. In the scenarios with different learning frequencies in perceived behavioral control, overall participation rate decreased. Learning every five years had the effect of increasing the participation rate slightly. Participation rates increased significantly in the scenario that consider economic aspects and reputation in attitude and did not decline in the scenario where population composition was maintained. The virtuous cycle effect of subjective norm according to changes in participation rate due to influence of attitude and perceived behavioral control shows the dynamic relationship.

계층구조적 다중에이전트를 이용한 다대다 함정전투 M&S 시스템 (Multi-Platform Warship M&S System Using the Hierarchical Multi-Agent System)

  • 정찬호;유용준;류한얼;이장세;김재익;지승도
    • 한국시뮬레이션학회논문지
    • /
    • 제18권4호
    • /
    • pp.117-125
    • /
    • 2009
  • 최근 들어 지능 에이전트를 이용한 국방 M&S 시스템에 대한 관심이 높아지고 있다. 대부분의 시스템들은 아군과 대항군을 대신하는 에이전트의 수준이 스크립트 기반에 불과하기 때문에 개별적 행위 등을 묘사할 수는 있으나, 고도의 전술운용이나 다양한 전장 환경과 같은 사실적인 표현을 하기에는 미흡한 실정이다. 본 연구에서는 이러한 문제점을 개선하기 위해 정보장교, 함장 및 함대사령관 등 역할에 따라 지능적 기능을 수행할 수 있는 계층구조적 다중 에이전트 시스템을 성공적으로 제안하였다. 이에 대한, 타당성 검토를 위해 다중에이전트 구조를 갖는 2:2 함정전투 시뮬레이션을 수행하였고, 이를 통해 지능적이고 실질적인 다양한 전술적 행위를 묘사할 수 있었다.

Motivation-based Hierarchical Behavior Planning

  • 송웨이;조경은;엄기현
    • 한국게임학회 논문지
    • /
    • 제8권1호
    • /
    • pp.79-90
    • /
    • 2008
  • 본 논문에서는 동기 기반의 계층적 행동 계획 시스템을 제안한다. 가상 시뮬레이션 게임 환경에서 에이전트는 행동 계획 시스템을 통해 적합한 행동을 선택하게 된다. 행동 선택 시스템은 동기를 추출하고 목표를 선택하고 행동을 생성하고 최적화를 수행한다. 동기를 평가할 때 갑작스럽게 발생하거나 누적된 이벤트에 대해 계산한다. 동기를 선택할 때는 확률 분포를 사용하여 무작위로 선택한다. 계층적 목표 트리를 탐색한 후에 목표를 실행할 수 있다. 행동들을 비교한 후 가장 적합한 행동을 선택하게 된다. 선택을 할 때 안전도 값과 만족도 값을 비교하여 최적화된 행동을 선택한다. 본 연구에서 제안한 시스템을 식당경영 게임에 적용했다.

  • PDF

국방 M&S의 가상군 행위 모델링 방법론 연구: 조사와 미래방향을 중심으로 (The Study on CGF Behavior Modeling Methodologies for Defense M&S: Focusing on Survey and Future Direction)

  • 조남석;문호석;변재정
    • 한국시뮬레이션학회논문지
    • /
    • 제29권2호
    • /
    • pp.35-47
    • /
    • 2020
  • 인구수 감소와 국방개혁으로 인한 병력 감축, 4차 산업혁명 기술의 초고도화에 따른 기술적 요인으로 국방 M&S의 개체를 자동화 모의하는 것은 이제 군의 현실적인 목표가 되었다. 자동화 모의 기술의 사용자인 군과 기술을 개발해야 하는 공학자들의 공통된 방향설정이 필요한 시점이다. 본 연구는 향후 국방 M&S의 자동화 모의 연구를 위한 가이드라인을 제시한다. 이를 위해, 먼저 자동화 모의를 가능하게 방법론들 규칙-기반방법, 에이전트-기반방법, 학습-기반방법에 대해 논의하고, 이어서 이러한 방법론을 어떠한 방향으로 개발해야 하는지에 대해 논의한다. 연구를 통해 국방 M&S의 자동화 모의 기술 연구가 본격화 되고, 군과 개발자 사이의 간극이 좁혀지기를 기대한다.

대학촌 가로의 보행환경 개선을 위한 보행자 멀티에이전트(Pedestrian Multi-Agent) 모델링 (Pedestrian Multi-Agent Model in College Town Streets)

  • 문태헌;한수철;성한욱;정경석
    • 한국지리정보학회지
    • /
    • 제9권2호
    • /
    • pp.194-205
    • /
    • 2006
  • 본 연구의 목적은 쾌적하고 안전한 보행환경 조성을 위한 계획지원 도구로서 보행자 멀티에이전트 모형(Multi-Agent Model)과 보행시뮬레이션 시스템을 개발하는 것이다. 이때 본 연구에서 한명의 보행자는 하나의 에이전트로 간주되었다. 보행자 멀티에이전트 모형은 실세계와 같이 보행자 에이전트가 개인적 속성을 유지하면서, 주변 환경에 반응하며, 상호 학습을 통해 이루어지는 개별행동을 그대로 반영할 수 있게 하였다. 개발된 모형은 진주시 가좌동 일대의 대학촌에 적용하였으며, 모형의 적합성 검정을 위해 모형의 예측치와 실측치를 비교하여 $R^2$=0.781로 높은 값은 얻어 모형이 유의함을 확인하였다. 모형의 적용에 있어서 사례지역의 물리적환경은 수치지도를 기반으로 하고, 지역 내 상가의 업종, 규모 등을 현장 조사하여 ArcGis 데이터베이스로 구축하였다. 관련연구를 통한 보행자행동 규칙을 정한 다음, 시뮬레이션 시스템은 Flash MX 액션스크립트를 이용하여 개발하였다. 개발된 시스템을 이용하여 건물의 매력도가 증가되었을 때와 거리에 이벤트가 발생되었을 때를 가정하여 각각의 경우에 보행자밀도의 변화와 보행환경의 변화를 시뮬레이션 한 다음, 적절한 보행환경개선 방향을 제시하였다.

  • PDF

지역사회 내 쓰레기 문제 해결을 위한 이산사건시스템 형식론 기반 모델링 및 시뮬레이션 환경 (Modeling & Simulation Environment for Solving Waste Problems of the Local Community using Discrete Event System Formalism)

  • 최창범;정진호;류창현;김은영
    • 한국시뮬레이션학회논문지
    • /
    • 제29권1호
    • /
    • pp.71-79
    • /
    • 2020
  • 현대사회의 도시화 추세가 지속됨에 따라 인구의 집중으로 주거환경에 대한 도시문제의 중요성이 대두되고 있다. 다양한 도시문제 중에서 대표적인 문제 중 하나는 쓰레기 문제로 시민들의 주거환경 악화의 원인이 되며 시정 만족도에 대해 직접적으로 영향을 미치는 요인이다. 이와 같은 쓰레기 문제는 단순히 주거지역의 쓰레기 배출량에 대한 분석으로는 정확히 예측할 수 없으며 쓰레기의 주거지역에 분포하고 있는 거주민의 생활양식과 특징에 대한 분석이 필요하다. 본 연구에서는 주거지역 내의 거주민의 분포에 따라 발생할 수 있는 쓰레기 문제와 이에 대한 만족도 분석을 수행하기 위하여 이산사건 시스템 형식론을 활용한 에이전트 기반 거주민 모델링과 시뮬레이션 환경을 제안한다. 제안하는 연구는 주거민의 시계열적인 특성을 표현하기 위하여 원자모델을 사용하였으며 시뮬레이션 모델의 재사용성을 증대시키기 위한 결합모델을 사용하여 다가구와 다가구 주택을 모의하였다. 또한, 본 연구는 다가구 주택지역에 대한 시뮬레이션 모델링을 진행하고, 시뮬레이션을 수행하였다. 연구결과로 다가구 주택지역의 시뮬레이션에서는 거주민의 특성을 고려한 결과와 그렇지 않은 결과 사이에 뚜렷한 차이점을 발견할 수 있었으며 지역 문화적 특성과 시간적 특성을 고려한 시뮬레이션이 필요함을 확인할 수 있었다.