DOI QR코드

DOI QR Code

치명적 자율무기체계의 도덕적 책임 문제 연구 : 로버트 스패로우의 '책임간극' 이론에 대한 고찰

A Study on the Moral Responsibility of Lethal Autonomous Weapon Systems (LAWS): Focused on Robert Sparrow's "Responsibility Gap" Theory

  • 문현영 (육군사관학교 영어과) ;
  • 김상수 (육군사관학교 국어철학과)
  • 투고 : 2023.06.19
  • 심사 : 2023.07.10
  • 발행 : 2023.07.31

초록

미래 전장 양상이 초연결성에 기반한 전장 네트워크 발전에 기반할수록 그 결과 또한 예측할 수 없는 불확실성이 더욱 커질 것으로 예견된다. 이런 환경에서 인공지능에 기반한 자율무기체계 도입은 그 불확실성을 더욱 증대시킨다. 불확실성이 증대된 환경에서 공동의 작업으로 인해 도출된 결과에 대한 책임을 평가하는 것은 그 중요성에도 불구하고 선명한 방향을 정하지 못하고 있으며 누구도 충분한 책임을 지지 않는 책임간극(responsibility gap)에 대한 우려도 있다. 이에 따라 이 글에서는 자율무기체계의 운용양상을 분석하고 그 과정에서 발생할 수 있는 윤리적 문제로서 책임간극의 문제를 로버트 스패로우의 이론을 통하여 고찰해볼 것이다. 그의 주장을 면밀히 살펴보고 치명적 자율무기체계(lethal autonomous weapon system, LAWS)의 운용에서 책임간극은 극복 가능한 것임을 밝힌다. 간극이 아닌 책임의 프레임이 앞으로 다가올 전장 환경에 더 적합함을 보여줌으로서 신중한 무기체계 개발 및 사용의 기반을 마련하고자 한다.

In an increasingly hyperconnected battlefield, the reliance on battlefield networks and AI-based autonomous weapons systems creates uncertainty and raises ethical concerns. This article explores the responsibility gap in operating autonomous weapons systems, using Robert Sparrow's theory. By analyzing Sparrow's arguments, we propose overcoming the responsibility gap in lethal autonomous weapon systems (LAWS). Our objective is to establish a framework of responsibility that aligns with the evolving battlefield, promoting the development and use of responsible weapon systems.

키워드

참고문헌

  1. P. Scharre, Army of None: Autonomous Weapons and the Future of War. W. W. Norton & Company, 2018.
  2. M. C. Horowitz, "When speed kills: Lethal autonomous weapon systems, deterrence and stability," J. Strateg. Stud., vol. 42, no. 6, pp. 764-788, 2019, doi: 10.1080/01402390.2019.1621174.
  3. D. Amoroso and G. Tamburrini, "Autonomous Weapons Systems and Meaningful Human Control: Ethical and Legal Issues," Curr. Robot. Rep., vol. 1, no. 4, pp. 187-194, 2020, doi: 10.1007/s43154-020-00024-3.
  4. R. SPARROW, "Killer Robots," J. Appl. Philos., vol. 24, no. 1, pp. 62-77, 2007, doi: 10.1111/j.1468-5930.2007.00346.x.
  5. "DoD Directive 3000.09 Autonomy in Weapon Systems." Department of Defense, Jan. 25, 2023. [Online]. Available: https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf
  6. "ICRC Position on Autonomous Weapon Systems." ICRC, May 12, 2021.
  7. Human Rights Watch, "Losing Humanity: The Case Against Killer Robots." Human Rights Watch, Nov. 19, 2012.
  8. S. Kim and Y. Yoon, "A Study of Cognitive Warfare and Ethical Issues: Focusing on Just War Theory," JCCT, vol. 9, no. 3, pp. 451-459, 2023, doi:10.17703/JCCT.2019.5.4.413
  9. P. Asaro, "On banning autonomous weapon systems: human rights, automation, and the dehumanization of lethal decision-making," Int. Rev. Red Cross 2005, vol. 94, no. 886, pp. 687-709, 2012, doi: 10.1017/S1816383112000768.
  10. E. Rosert and F. Sauer, "How (not) to stop the killer robots: A comparative analysis of humanitarian disarmament campaign strategies," Contemp. Secur. Policy, vol. 42, no. 1, pp. 4-29, 2021, doi: 10.1080/13523260.2020.1771508.
  11. A. Matthias, "The responsibility gap: Ascribing responsibility for the actions of learning automata," Ethics Inf. Technol., vol. 6, no. 3, pp. 175-183, 2004, doi: 10.1007/s10676-004-3422-1.
  12. T. S. Goetze, "Moral Entanglement: Taking Responsibility and Vicarious Responsibility," The Monist, vol. 104, no. 2, pp. 210-223, 2021, doi: 10.1093/monist/onaa033.
  13. J. McMahan, "The Moral Responsibility of Volunteer Soldiers," Boston Review. Accessed: May 27, 2023. [Online]. Available: https://www.bostonreview.net/forum/moral-wounds-ethics-volunteer-military-service/
  14. N. V. Demleitner, "Types of Punishment," in The Oxford Handbook of Criminal Law, in Oxford Handbooks in Law. Oxford University Press, 2014. doi: 10.1093/oxfordhb/9780199673599.013.0041