• 천문학회보
• /
• 제46권1호
• /
• pp.42.1-42.1
• /
• 2021

In this study, we present a visual explanation of a deep learning solar flare forecast model and its relationship to physical parameters of solar active regions (ARs). For this, we use full-disk magnetograms at 00:00 UT from the Solar and Heliospheric Observatory/Michelson Doppler Imager and the Solar Dynamics Observatory/Helioseismic and Magnetic Imager, physical parameters from the Space-weather HMI Active Region Patch (SHARP), and Geostationary Operational Environmental Satellite X-ray flare data. Our deep learning flare forecast model based on the Convolutional Neural Network (CNN) predicts "Yes" or "No" for the daily occurrence of C-, M-, and X-class flares. We interpret the model using two CNN attribution methods (guided backpropagation and Gradient-weighted Class Activation Mapping [Grad-CAM]) that provide quantitative information on explaining the model. We find that our deep learning flare forecasting model is intimately related to AR physical properties that have also been distinguished in previous studies as holding significant predictive ability. Major results of this study are as follows. First, we successfully apply our deep learning models to the forecast of daily solar flare occurrence with TSS = 0.65, without any preprocessing to extract features from data. Second, using the attribution methods, we find that the polarity inversion line is an important feature for the deep learning flare forecasting model. Third, the ARs with high Grad-CAM values produce more flares than those with low Grad-CAM values. Fourth, nine SHARP parameters such as total unsigned vertical current, total unsigned current helicity, total unsigned flux, and total photospheric magnetic free energy density are well correlated with Grad-CAM values.

• 대한임베디드공학회논문지
• /
• 제16권4호
• /
• pp.145-151
• /
• 2021

In this paper, we propose a novel visualization technique to explain the predictions of deep neural networks. We use knowledge distillation (KD) to identify the interior of a black-box model for which we know only inputs and outputs. The information of the black box model will be transferred to a white box model that we aim to create through the KD. The white box model will learn the representation of the black-box model. Second, the white-box model generates attention maps for each of its layers using Grad-CAM. Then we combine the attention maps of different layers using the pixel-wise summation to generate a final saliency map that contains information from all layers of the model. The experiments show that the proposed technique found important layers and explained which part of the input is important. Saliency maps generated by the proposed technique performed better than those of Grad-CAM in deletion game.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2023년도 춘계학술발표대회
• /
• pp.510-512
• /
• 2023

In order to enhance a model's capability for detecting facial expressions, this research suggests a pipeline that makes use of the GradCAM component. The patching module and the pseudo-labeling module make up the pipeline. The patching component takes the original face image and divides it into four equal parts. These parts are then each input into a 2Dconvolutional layer to produce a feature vector. Each picture segment is assigned a weight token using GradCAM in the pseudo-labeling module, and this token is then merged with the feature vector using principal component analysis. A convolutional neural network based on transfer learning technique is then utilized to extract the deep features. This technique applied on a public dataset MMI and achieved a validation accuracy of 96.06% which is showing the effectiveness of our method.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
• /
• pp.17-20
• /
• 2021

본 연구는 인원 계수에 딥러닝 알고리즘을 적용한다. 인원 계수는 안전 관리 분야, 상업 분야에 적용될 수 있다. 예를 들어, 건물 내 화재 발생 시, 계수된 인원을 활용하여 인명 피해를 최소화할 수 있다. 다른 예로, 유동인구 데이터를 기반으로 상권을 분석하여 경제적 효율성을 극대화할 수 있다. 이처럼 인원 데이터의 중요성이 증가함에 따라 인원 계수 연구도 활발하다. 그 예로, 객체 탐지(Object Detection) 같은 딥러닝 기반 인원 계수, 센서 기반 인원 계수 등이 있다. 본 연구에선 딥러닝 알고리즘인 VGGNet을 사용하여 인원을 계수했다. 결과로 Mean Absolute Percentage Error(이하 MAPE)는 약 5.9%의 오차율을 보였다. 결과 확인 방법으로는 설명 가능한 인공지능(XAI) 알고리즘 중 하나인 Grad-CAM을 적용했다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2022년도 제66차 하계학술대회논문집 30권2호
• /
• pp.315-316
• /
• 2022

본 논문은 스마트 인솔의 압력 데이터를 이용하는 컨볼루션 신경망 모델에 해석가능한 인공지능 방법인 Grad-CAM을 적용하는 방법을 제안한다. 학습된 각 모델에 Grad-CAM을 적용하여 모델에서 중요한 역할을 하는 압력센서와 중요하지 않은 압력센서를 알아내는 방법을 제안하고 데이터마다 학습을 진행하고 학습된 모델을 통해 실제로 중요한 압력센서와 그렇지 않은 압력센서에 대해서 알아본다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2024년도 춘계학술발표대회
• /
• pp.586-589
• /
• 2024

본 실험 연구에서는 주의 메커니즘과 컨볼루션 신경망을 결합하여 모델을 개선하는 방법을 탐색하는 딥 러닝 기술을 소개한다. 이 기술은 지도 학습 방식을 위해 공개 데이터 세트의 쓰레기 분류 데이터를 사용하고, Grad-CAM 기술과 채널 주의 메커니즘 SE 를 적용하여 모델의 분류 의사 결정 과정을 더 잘 이해하기 위해 히트 맵을 생성한다. Grad-CAM 기술을 사용하여 히트 맵을 생성하면 분류 중에 모델이 집중하는 영역을 시각화할 수 있다. 이는 모델의 분류 결정을 설명하는 방법을 제공하여 다양한 이미지 카테고리에 대한 모델 결정의 기초를 더 잘 이해할 수 있다. 실험 결과는 전통적인 합성곱 신경망과 비교하여 제안한 방법이 쓰레기 분류 작업에서 더나은 성능을 달성한다는 것을 보여준다. 주의 메커니즘과 히트맵 해석을 결합함으로써 우리 모델은분류 정확도를 향상시킬 수 있다. 이는 실제 응용 분야의 이미지 분류 작업에 큰 의미가 있으며 해석 가능성에 대한 딥 러닝 연구 진행을 촉진하는 데 도움이 된다.

• 한국항행학회논문지
• /
• 제26권2호
• /
• pp.113-118
• /
• 2022

사람은 독서나 필기 중 중요 문구를 형광펜으로 칠하는 것에서 착안하여, 본 논문에서는 복잡한 배경 질감을 가진 영상에서의 불량유형을 효과적으로 분류하기 위해 불량 픽셀 영역을 하이라이팅 하여 신경망을 훈련하는 방법을 제안한다. 제안 방법의 가능성을 검증하기 위하여 불량유형 구분이 매우 어려운 타이어 밴드 직물의 불량유형 분류에 제안 방법을 적용한다. 또한, 타이어 밴드 직물 영상에 특화된 백라이트 하이라이팅 방법을 제안한다. 백라이트 하이라이트 영상은 GradCAM 기법과 간단한 영상처리를 이용하여 획득할 수 있다. 실험에서 우리는 제안하는 하이라이팅 기법이 분류 정확도뿐만 아니라 훈련속도 면에서 기존 방법보다 우수함을 보였다. 인식률 면에서는 제안 방법이 기존 방법 대비 최대 13.4%의 향상을 달성하였다. 타이어 밴드 직물 영상에 특화된 백라이트 하이라이팅 기법이 윤곽 하이라이팅 기법보다 정확도 측면에서 우수함을 보였다.

• 스마트미디어저널
• /
• 제11권11호
• /
• pp.92-98
• /
• 2022

섬유산업에서 생산된 직물의 결함을 식별하는 것은 품질관리를 위한 핵심적인 절차이다. 본 연구는 직물의 이미지를 분석하여 결함을 검출하는 모델을 만들고자 하였다. 연구에 사용된 모델은 딥러닝 기반의 VGGNet 과 ResNet이었고, 두 모델의 결함 검출 성능을 비교하여 평가하였다. 정확도는 VGGNet 모델이 0.859, ResNet 모델이 0.893으로 ResNet 모델의 정확도가 더 높은 결과를 보여주었다. 추가적으로 딥러닝 모델이 직물의 이미지 내에서 결함으로 인식한 부분의 위치를 알아보기 위하여 XAI(eXplainable Artificial Intelligence)기법인 Grad-CAM 알고리즘을 사용하여 모델의 관심영역을 도출하였다. 그 결과 딥러닝 모델이 직물의 결함으로 인식한 부분이 육안으로도 실제 결함이 있는 것으로 확인되었다. 본 연구의 결과는 직물의 결함 검출에 있어서 딥러닝 기반의 인공지능을 활용함으로써 섬유의 생산과정에서 발생하는 시간과 비용을 줄일 수 있을 것으로 기대된다.

• 한국컴퓨터정보학회:학술대회논문집
• /
• 한국컴퓨터정보학회 2022년도 제65차 동계학술대회논문집 30권1호
• /
• pp.3-5
• /
• 2022

본 연구는 VGGNet을 사용하여 광섬유 복합가공 지선 설비의 양/불량 판별을 수행한다. 광섬유 복합가공 지선이란, 전력선의 보호 및 전력 시설 간 통신을 담당하는 중요 설비로 고장 발생 전, 결함의 조기 발견 및 유지 관리가 중요하다. 현재 한국전력공사에서는 드론에서 촬영된 영상을 점검원이 이상 여부를 점검하는 방식이 주로 사용되고 있으나 이는 점검원의 숙련도, 경험에 따른 정확성 및 비용과 시간 측면에서 한계를 지니고 있다. 본 연구는 드론에서 촬영된 영상으로 VGGNet 기반의 양/불량 판정을 수행했다. 그 결과, 정확도 약 95.15%, 정밀도 약 96%, 재현율 약 95%, f1 score 약 95%의 성능을 확인하였다. 결과 확인 방법으로는 설명 가능한 인공지능(XAI) 알고리즘 중 하나인 Grad-CAM을 적용하였다. 이러한 광섬유 복합가공 지선 설비의 양/불량 판별은 점검원의 단순 작업에 대한 비용 및 점검 시간을 줄이며, 부가가치가 높은 업무에 집중할 수 있게 해준다. 또한, 고장 결함 발견에 있어서 객관적인 점검을 수행하기 때문에 일정한 점검 품질을 유지한다는 점에서 적용 가치가 있다.

• 한국컴퓨터정보학회논문지
• /
• 제26권12호
• /
• pp.45-52
• /
• 2021

본 논문에서는 컴퓨터 단층촬영(CT) 이미지를 이용한 합성곱 신경망(CNN)을 기반의 골감소증 및 골다공증 예측 모델을 제안한다. 기존의 CNN은 단일 CT 이미지에서 예측에 중요한 지역정보를 활용하지 못하다는 문제가 있다. 본 논문에서 이를 해결하고자 CT 이미지를 정규화하여 질감 정보가 다른 두 개의 이미지로 변환하고, 해당 이미지를 활용한 한 쌍의 신경망 네트워크를 제안한다. 동일한 구조를 가진 네트워크 각각의 신경망은 질감 정보가 다른 이미지를 입력으로 사용하고 비유사성 손실함수를 통해 다른 정보를 학습한다. 최종적으로 제안 모델은 중요한 지역정보를 포함한 단일 CT 이미지의 다양한 특징 정보를 학습하며, 이를 앙상블하여 골감소증 및 골다공증 예측 정확도를 높인다. 실험 결과를 통해 제안 모델의 정확도 77.11%를 확인할 수 있으며 Grad-CAM을 이용하여 모델이 바라보는 특징을 확인할 수 있다.