Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)

  • 2022.11a
  • /
  • Pages.1022-1024
  • /
  • 2022
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study on Adversarial AI Attack and Defense Techniques

적대적 AI 공격 및 방어 기법 연구

  • Mun, Hyun-Jeong (Department of Computer Science, Dongduk Women's University) ;
  • Oh, Gyu-Tae (Department of Computer Engineering, Anyang University) ;
  • Yu, Eun-Seong (Department of Computer Engineering, Honam University) ;
  • Lm, Jeong-yoon (Department of Computer Engineering, Honam University) ;
  • Shin, Jin-Young (Dept. of Software Convergence, Sookmyung Women's University) ;
  • Lee, Gyu-Young (Graduate School of Information Security, KAIST)
  • 문현정 (동덕여자대학교 컴퓨터학과) ;
  • 오규태 (안양대학교 컴퓨터공학전공) ;
  • 유은성 (호남대학교 컴퓨터공학) ;
  • 임정윤 (호남대학교 컴퓨터공학) ;
  • 신진영 (숙명여자대학교 소프트웨어융합전공) ;
  • 이규영 (한국과학기술원 정보보호대학원)
  • Published : 2022.11.21
Download PDF
⟨ Previous Next ⟩

Abstract

최근 인공지능 기술이 급격하게 발전하고 빠르게 보급되면서, 머신러닝 시스템을 대상으로 한 다양한 공격들이 등장하기 시작하였다. 인공지능은 많은 강점이 있지만 인위적인 조작에 취약할 수 있기 때문에, 그만큼 이전에는 존재하지 않았던 새로운 위험을 내포하고 있다고 볼 수 있다. 본 논문에서는 데이터 유형 별 적대적 공격 샘플을 직접 제작하고 이에 대한 효과적인 방어법을 구현하였다. 영상 및 텍스트 데이터를 기반으로 한 적대적 샘플공격을 방어하기 위해 적대적 훈련기법을 적용하였고, 그 결과 공격에 대한 면역능력이 형성된 것을 확인하였다.

Keywords

Acknowledgement

본 프로젝트는 과학기술정보통신부 정보통신창의인재양성사업의 지원을 통해 수행한 ICT멘토링프로젝트 결과물입니다.