인공지능(artificial intelligence, AI) 기술이 산업 전반으로 빠르게 확산되면서, AI 활용으로 인해 야기되는 윤리적 이슈에 대한 관심이 높아지고 있다. 특히 건강과 생명을 주제로 연구하는 보건의료 분야에서 AI와 관련된 윤리적 이슈는 중요한 주제이다. 보건의료 분야에서 AI 관련 윤리이슈는 두 가지 주제로 대별될 수 있다. 첫 번째 영역은 건강과 질병치료를 위한 기술개발 에 AI를 활용하거나 AI 기반 기술을 개발하는 경우, 야기될 수 있는 윤리적 문제 및 개발자가 준수해야 할 윤리적 책임에 관련된 사항이다. 이에 대해서는 국립보건원이 “보건의료 분야 인공지능 연구자를 위한 연구윤리지침”을 발간하여, 기술개발과정에서 야기될 수 있는 윤리적 이슈 및 연구개발자의 윤리적 책무와 법적 책임에 대해 주요 원칙들을 제시한 바 있다[1]. 두 번째 영역은 연구자가 연구수행 및 결과를 출판하는 과정에서 AI를 도구로 활용하는 경우에 야기될 수 있는 윤리적 이슈들이다. 이에 대해서는 한국연구재단이 인공지능 도구를 연구개발에서 활용했을 때 연구자가 준수해야 할 연구윤리 원칙들을 제시한 바 있다[2]. 이 원고에서는 보건행정학회지에 주로 게재되는 인간 관련 연구들을 수행하는 보건의료 분야 연구자들에게 참고가 될 수 있도록, 두 번째 영역과 관련한 동향과 이슈들을 간략하게 소개하고자 한다.
첫째, 연구 및 출판과정에서 AI를 활용하였을 때 야기될 수 있는 연구윤리적 이슈로서 다음과 같은 사례들이 발생될 수 있다[2].
● 위조와 변조의 사례
AI를 활용하여 코딩을 하고 통계분석한 결과를 논문으로 작성하는 과정에서 프롬프트 작성 실수로 데이터의 위・변조가 발생하는 경우
● 표절 사례
연구자가 AI를 활용하여 외국문헌을 번역한 후 일정 단락을 인용하였는데, 다른 연구자가 동일하게 AI로 외국문헌을 번역하고 인용하는 과정에서 해당 단락이 동일한 내용으로 차용된 경우, 또는 AI를 활용하여 원고를 작성, 수정하는 과정에서 동일 또는 유사 문장이 차용된 경우
● 편향 또는 부정확 사례
논문작성 시 활용한 AI의 기술적 한계로 연구결과가 편향되거나 부정확성이 발생한 경우
이러한 사례들에 대한 대처원칙은, AI를 저자로 인정하지 않는 추세이므로 저자는 위의 사항들이 발생되지 않도록 노력해야 하고, 최종적으로 이에 대한 책임을 져야 한다는 것이다[3]. 국제학술지출판윤리위원회에서도 저자들은 AI 도구를 이용하여 만든 결과물을 포함하여 논문내용에 대해 전적으로 책임을 져야 하고 관련된 출판윤리 위반에 대해서도 책임을 져야 한다고 강조하고 있으니 연구자들은 AI 도구를 사용할 때 각별히 주의할 필요가 있다[4].
둘째, AI 도구를 활용할 경우 AI를 저자로서 표기할 수 없기때문에 AI 도구를 활용한 내용을 구체적으로 논문에 명시해야 한다. 국제학술지출판윤리위원회에서는 논문의 원고, 이미지, 그래픽, 데이터 수집과 분석에서 AI를 사용했을 경우 논문의 방법론에서 어떤 AI 도구를 어떻게 사용했는지 명확하게 공개하도록 권고하고 있다[4]. 세계의학편집인협의회에서는 논문작성에 AI 도구를 사용하였음을 공개해야 하고 프롬프트도 명시해야 한다는 원칙을 제시하고 있다[3]. 제시해야 하는 AI 활용의 세부내용으로서 프롬프트, 질문과정 및 시간, 날짜, 사용한 도구종류와 버전 등을 논문 초록과 방법론에 적절하게 명시하도록 제안하였다[3]. 미국의학협회 저널 네트워크는 연구방법론 또는 감사의 글 등에 보고하도록 하되, 문법, 철자, 참고문헌을 체크하는 기본도구는 보고사항에 포함되지 않는다고 투고규정에 명시하고 있다[5].
이상의 내용들을 요약하자면, 대체로 AI 도구를 활용할 경우에도, 인간인 연구자가 연구결과 및 출판과정에 대해 최종적으로 윤리적, 법적 책임을 져야 하므로 이러한 문제가 발생하지 않도록 연구자가 노력해야 한다는 점이다. 또한 AI 도구 사용 시 사용내용을 공개해고 원고에 기술해야 한다는 원칙이 국제적 합의로 모아지고 있다. AI 도구의 활용이 어느 범위까지 허용될 것인지에 대한 원칙들이 현재에도 논의되고 있고, 검색과정에서 사용한 AI 도구로 인한 무분별한 표절들이 확산되면서 표절의 진위를 가리는 기술적 이슈들도 지속적으로 제기되고 있어 AI 도구 사용과 관련된 연구윤리 논의는 현재진행형이라고 할 수 있다. 빠르게 변화하는 AI 관련 연구윤리 동향을 숙지하여 연구자로서 연구윤리 쟁점에 저촉되지 않도록 노력해야 하는 것이 AI시대에서 활동하는 연구자의 중요 책무가 되고 있다.
이해상충
이선희는 보건행정학회지의 편집위원장이지만 이 연구의 심사위원 선정, 평가, 결정 과정에는 관여하지 않았다. 그 외에는 이 연구에 영향을 미칠 수 있는 기관이나 이해당사자로부터 재정적, 인적 지원을 포함한 일체의 지원을 받은 바 없으며, 연구윤리와 관련된 제반 이해상충이 없음을 선언한다.
ORCID
Sun-Hee Lee: https://orcid.org/0000-0002-9694-1977
References
- National Institute of Health. Research ethics guidelines for artificial intelligence researchers in healthcare [Internet]. Cheongju: Korea Disease Control and Prevention Agency; 2023 [cited 2024 Jun 19]. Available from: https://korea.kr/archive/expDocView.do?docId=40623
- Kim HD, Yang JM. Analysis of research ethics issues related to the use of artificial intelligence tools in R&D [Internet]. Daejeon: National Research Foundation of Korea; 2023 [cited 2024 Jun 19]. Available from: https://www.nrf.re.kr/cms/board/library/view?menu_no=419&o_menu_no=&page=1&nts_no=202404&nts_cat=&search_type=NTS_TITLE&search_keyword=%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5+%EB%8F%84%EA%B5%AC%EC%9D%98&nts_cat=
- Zielinski C, Winker MA, Aggarwal R, Ferris LE, Heinemann M, Lapena JF, Pai SA, Ing E, Citrome L, Alam M, Voight M, Habibzadeh F, for the WAME Board. Chatbots, generative Al, and scholarly manuscripts: WAME recommendations on chatbots and generative artificial intelligence in relation to scholarly publications [Internet]. [place unknown]: World Association of Medical Editors; 2023 [cited 2024 Jun 15]. Available from: https://wame.org/page3.php?id=106
- Eaton SE, Souliere M. Artificial intelligence (AI) and fake papers [Internet]. Hampshire: Committee on Publication Ethics; 2023 [cited 2024 Jun 19]. Available from: https://publicationethics.org/resources/forum-discussions/artificial-intelligence-fake-paper
- Flanagin A, Bibbins-Domingo K, Berkwits M, Christiansen SL. Nonhuman "authors" and implications for the integrity of scientific publication and medical knowledge. JAMA 2023;329(8):637-639. DOI: https://doi.org/10.1001/jama.2023.1344