Acknowledgement
이 논문은 2022년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임(IITP-2022-0-01201)
Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)
- 2022.11a
- /
- Pages.420-422
- /
- 2022
- /
- 2005-0011(pISSN)
- /
- 2671-7298(eISSN)
DOI QR Code
Research Trends of Adversarial Attack Techniques in Text
텍스트 분야 적대적 공격 기법 연구 동향
- Kim, Bo-Geum (School of Computer Science and Engineering, Pusan National University) ;
- Kang, Hyo-Eun (School of Computer Science and Engineering, Pusan National University) ;
- Kim, Yongsu (School of Computer Science and Engineering, Pusan National University) ;
- Kim, Ho-Won (School of Computer Science and Engineering, Pusan National University)
- Published : 2022.11.21
Abstract
인공지능 기술이 문서 분류, 얼굴 인식, 자율 주행 등 실생활 전반에 걸쳐 다양한 분야에 적용됨에 따라, 인공지능 모델에 대한 취약점을 미리 파악하고 대비하는 기술의 중요성이 높아지고 있다. 이미지 영역에서는 입력 데이터에 작은 섭동을 추가해 신경망을 속이는 방법인 적대적 공격 연구가 활발하게 이루어졌지만, 텍스트 영역에서는 텍스트 데이터의 이산적인 특징으로 인해 연구에 어려움이 존재한다. 본 논문은 텍스트 분야 인공지능 기술에 대한 적대적 공격 기법을 분석하고 연구의 필요성을 살펴보고자 한다.
Keywords