• 제목/요약/키워드: 전장 교전 협업

검색결과 2건 처리시간 0.021초

Cooperative Multi-agent Reinforcement Learning on Sparse Reward Battlefield Environment using QMIX and RND in Ray RLlib

  • Minkyoung Kim
    • 한국컴퓨터정보학회논문지
    • /
    • 제29권1호
    • /
    • pp.11-19
    • /
    • 2024
  • 멀티에이전트는 전장 교전 상황, 무인 운송 차량 등 다양한 실제 협동 환경에 사용될 수 있다. 전장 교전 상황에서는 도메인 정보의 제한으로 즉각적인 보상(Dense Reward) 설계의 어려움이 있어 명백한 희소 보상(Sparse Reward)으로 학습되는 상황을 고려해야 한다. 본 논문에서는 전장 교전 상황에서의 아군 에이전트 간 협업 가능성을 확인하며, 희소 보상 환경인 Multi-Robot Warehouse Environment(RWARE)를 활용하여 유사한 문제와 평가 기준을 정의하고, 강화학습 라이브러리인 Ray RLlib의 QMIX 알고리즘을 사용하여 학습 환경을 구성한다. 정의한 문제에 대해 QMIX의 Agent Network를 개선하고 Random Network Distillation(RND)을 적용한다. 이를 통해 에이전트의 부분 관측값에 대한 패턴과 시간 특징을 추출하고, 에이전트의 내적 보상(Intrinsic Reward)을 통해 희소 보상 경험 획득 개선이 가능함을 실험을 통해 확인한다.

공대공 교전을 위한 유무인항공기 협업 전술 개발 (Development of Air to Air Mission Tactics for Manned-Unmanned Aerial Vehicles Teaming)

  • 황성인;양광진;오지현;설현주
    • 한국항공우주학회지
    • /
    • 제50권1호
    • /
    • pp.47-57
    • /
    • 2022
  • 전장에서의 무인기 활용이 시작된 이후 무인기는 기만, 정찰, 공격 등 다양한 임무에 투입되어 인간을 대신하여 성공적인 임무를 수행하여 왔다. 과거, 기술의 제한으로 자율적 임무수행이나 유인기와의 협업을 통한 임무는 불가하였으나 데이터 통신, 인공지능 등의 기술 발전으로 인하여 자율임무 수행은 물론 유무인 협업을 통한 시너지 효과를 창출하는 수준까지 발전하였다. 본 연구에서는 공군의 항공우주작전 중 공대공 임무를 중심으로 유무인 협업이 가능한 임무를 식별하였으며, 많은 공대공 임무 중 가장 핵심이면서 기본 작전으로 판단된 전투기소탕에 관한 유무인 협업 전술 개발을 연구하였다. 전투기소탕 작전 중에서도 유무인 협업을 통한 비스텔스기 대응과 스텔스기 대응 전술로 구분하여 연구를 진행하였으며, 이후 간단한 공학시뮬레이션을 통하여 제시한 전술의 실효성(임무 성공과 유무인기 생존 가능성)을 증명하였다.