Proceedings of the Korea Information Processing Society Conference (한국정보처리학회:학술대회논문집)

  • 2021.05a
  • /
  • Pages.382-384
  • /
  • 2021
  • /
  • 2005-0011(pISSN)
  • /
  • 2671-7298(eISSN)
Korea Information Processing Society (한국정보처리학회)
권호 표지
DOI QR코드

DOI QR Code

A Study of AI model extraction attack and defense techniques

AI 모델 탈취 공격 및 방어 기법들에 관한 연구

  • Jun, So-Hee (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University) ;
  • Lee, Young-Han (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University) ;
  • Kim, Hyun-Jun (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University) ;
  • Paek, Yun-Heung (Dept. of Electrical and Computer Engineering and Inter-University Semiconductor Research Center (ISRC), Seoul National University)
  • 전소희 (서울대학교 전기.정보공학부, 반도체공동연구소) ;
  • 이영한 (서울대학교 전기.정보공학부, 반도체공동연구소) ;
  • 김현준 (서울대학교 전기.정보공학부, 반도체공동연구소) ;
  • 백윤흥 (서울대학교 전기.정보공학부, 반도체공동연구소)
  • Published : 2021.05.12
Download PDF
⟨ Previous Next ⟩

Abstract

AI (Artificial Intelligence)기술이 상용화되면서 최근 기업들은 AI 모델의 기능을 서비스화하여 제공하고 있다. 하지만 최근 이러한 서비스를 이용하여 기업이 자본을 투자해 학습시킨 AI 모델을 탈취하는 공격이 등장하여 위협이 되고 있다. 본 논문은 최근 연구되고 있는 이러한 모델 탈취 공격들에 대해 공격자의 정보를 기준으로 분류하여 서술한다. 또한 본 논문에서는 모델 탈취 공격에 대응하기 위해 다양한 관점에서 시도되는 방어 기법들에 대해 서술한다.

Keywords

Acknowledgement

이 논문은 2021년도 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원(NRF-2020R1A2B5B03095204)을 받았으며, 2021년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원(No.2018-0-00230, (IoT 총괄/1 세부) IoT 디바이스 자율 신뢰보장 기술 및 글로벌 표준기반 IoT 통합보안 오픈 플랫폼 기술개발 [TrusThingz 프로젝트]) 지원을 받았고, 2021년도 BK21 FOUR 정보기술 미래인재 교육연구단 지원을 받았으며, 2021년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2020-0-01840, 스마트폰의 내부데이터 접근 및 보호 기술 분석)