DOI QR코드

DOI QR Code

Study the mutual robustness between parameter and accuracy in CNNs and developed an Automated Parameter Bit Operation Framework

CNN 의 파라미터와 정확도간 상호 강인성 연구 및 파라미터 비트 연산 자동화 프레임워크 개발

  • Dong-In Lee (Division of Computer Engineering, Hankuk University of Foreign Studies) ;
  • Jung-Heon Kim (Dept. of Information Communication Engineering, Hankuk University of Foreign Studies) ;
  • Seung-Ho Lim (Division of Computer Engineering, Hankuk University of Foreign Studies)
  • 이동인 (한국외국어대학교 컴퓨터공학부) ;
  • 김정헌 (한국외국어대학교 정보통신공학과) ;
  • 임승호 (한국외국어대학교 컴퓨터공학부)
  • Published : 2023.05.18

Abstract

최근 CNN 이 다양한 산업에 확산되고 있으며, IoT 기기 및 엣지 컴퓨팅에 적합한 경량 모델에 대한 연구가 급증하고 있다. 본 논문에서는 CNN 모델의 파라미터 비트 연산을 위한 자동화 프레임워크를 제안하고, 파라미터 비트와 모델 정확도 사이의 관계를 실험 및 연구한다. 제안된 프레임워크는 하위 n- bit 를 0 으로 설정하여 정보 손실 발생시킴으로써 ImageNet 데이터셋으로 사전 학습된 CNN 모델의 파라미터와 정확도의 강인성을 비트 단위로 체계적으로 실험할 수 있다. 우리는 비트 연산을 수행한 파라미터로 InceptionV3, InceptionResnetV2, ResNet50, Xception, DenseNet121, MobileNetV1, MobileNetV2 모델의 정확도를 평가한다. 실험 결과는 성능이 낮은 모델일수록 파라미터와 정확도 간의 강인성이 높아 성능이 좋은 모델보다 정확도를 유지하는 비트 수가 적다는 것을 보여준다.

Keywords

Acknowledgement

This work was supported by the National Research Foundation of Korea (NRF) grant funded by the Korean Government (MSIT) (NRF-2021R1F1A1048026).