A Noise-Tolerant Hierarchical Image Classification System based on Autoencoder Models

오토인코더 기반의 잡음에 강인한 계층적 이미지 분류 시스템

Abstract

This paper proposes a noise-tolerant image classification system using multiple autoencoders. The development of deep learning technology has dramatically improved the performance of image classifiers. However, if the images are contaminated by noise, the performance degrades rapidly. Noise added to the image is inevitably generated in the process of obtaining and transmitting the image. Therefore, in order to use the classifier in a real environment, we have to deal with the noise. On the other hand, the autoencoder is an artificial neural network model that is trained to have similar input and output values. If the input data is similar to the training data, the error between the input data and output data of the autoencoder will be small. However, if the input data is not similar to the training data, the error will be large. The proposed system uses the relationship between the input data and the output data of the autoencoder, and it has two phases to classify the images. In the first phase, the classes with the highest likelihood of classification are selected and subject to the procedure again in the second phase. For the performance analysis of the proposed system, classification accuracy was tested on a Gaussian noise-contaminated MNIST dataset. As a result of the experiment, it was confirmed that the proposed system in the noisy environment has higher accuracy than the CNN-based classification technique.

본 논문은 다수의 오토인코더 모델들을 이용한 잡음에 강인한 이미지 분류 시스템을 제안한다. 딥러닝 기술의 발달로 이미지 분류의 정확도는 점점 높아지고 있다. 하지만 입력 이미지가 잡음에 의해서 오염된 경우에는 이미지 분류 성능이 급격히 저하된다. 이미지에 첨가되는 잡음은 이미지의 생성 및 전송 과정에서 필연적으로 발생할 수밖에 없다. 따라서 실제 환경에서 이미지 분류기가 사용되기 위해서는 잡음에 대한 처리 및 대응이 반드시 필요하다. 한편 오토인코더는 입력값과 출력값이 유사하도록 학습되어지는 인공신경망 모델이다. 입력데이터가 학습데이터와 유사하다면 오토인코더의 출력데이터와 입력데이터 사이의 오차는 작을 것이다. 하지만 입력 데이터가 학습데이터와 유사성이 없다면 오토인코더의 출력데이터와 입력데이터 사이의 오차는 클 것이다. 제안하는 시스템은 오토인코더의 입력데이터와 출력데이터 사이의 관계를 이용한다. 제안하는 시스템의 이미지 분류 절차는 2단계로 구성된다. 1단계에서 분류 가능성이 가장 높은 클래스 2개를 선정하고 이들 클래스의 분류 가능성이 서로 유사하면 2단계에서 추가적인 분류 절차를 거친다. 제안하는 시스템의 성능 분석을 위해 가우시안 잡음으로 오염된 MNIST 데이터셋을 대상으로 분류 정확도를 실험하였다. 실험 결과 잡음 환경에서 제안하는 시스템이 CNN(Convolutional Neural Network) 기반의 분류 기법에 비해 높은 정확도를 나타냄을 확인하였다.

1. 서론

최근 딥러닝을 이용한 이미지 처리 기술이 급격히 발달하여 영상인식, 물체 인식, 얼굴인식 등의 분야에서 활발히 연구가 이루어지고 있다. 영상 처리를 위한 대표적인 딥러닝 기술인 CNN(Convolutional Neural Network)은 인공신경망의 한 부류로 기존의 이미지 처리 알고리즘에 비해 상대적으로 데이터 전처리 과정이 적다는 큰 장점이 있다. 다시 말해, 데이터의 특징(feature)을 자동적으로 추출한다. 기존 알고리즘들이 데이터의 특징을 사용자가 직접 추출해야 하고, 추출된 특징에 따라 이미지 분류 성능이 크게 좌우된다는 한계를 CNN은 극복한 것이다[1,2]. 일반적으로 CNN은 컨볼루션(convolution) 계층과 폴링 (pooling) 계층을 반복적으로 수행하여 데이터의 계층적 특징들을 추출하고, 완전 연결 계층(fully connected layer)을 통해 이미지를 분류한다.

CNN 기반의 딥러닝을 활용한 기술의 발전으로 이미지 분류의 오류율이 크게 감소되었다. CNN 기반의 이미지 분류 기술인 AlexNet[3]이 2012년에 ImageNet에 대한 분류 오류율을 15.4%까지 낮추어 CNN의 우수성을 입증하였다. 이후 VGGNet[4], GoogLeNet[5], ResNet[6], DenseNet[7], MobileNet[8], SENet[9], NASNet[10] 등 CNN 기반의 수많은 딥러닝 모델들이 잇달아 발표되었으며, 현재는 이미지 분류 문제에 있어서 딥러닝 모델이 인간의 이미지 분류 능력에 버금가는 성능을 나타내고 있다.

이미지 분류기의 성능은 데이터에 포함된 각종 노이즈에 의해서 저하될 수 있다. 또한 입력 데이터에 잡음이 없을 수는 없다. 이는 이미지를 획득하고 전송하는 과정에서 필연적으로 잡음이 첨가될 수밖에 없기 때문이다. 인간은 이미지에 포함된 노이즈를 인식하여 이를 무시하고 이미지를 분류한다. 그런데 분류기는 이미지에 포함된 잡음도 분류를 위한 계산과정에 포함시킨다. 따라서 분류 대상이미지가 각종 노이즈에 의해서 오염되었다면 분류기의 성능은 저하될 수밖에 없다. 또한 잡음에 대한 모델의 성능 저하는 보안 취약점으로 악용될 수도 있다[11-13]. 따라서 분류기의 평가 시 원본 이미지뿐 아니라 잡음에 의해서 오염된 이미지에 대한 성능이 함께 고려되어야 한다.

잡음에 의한 분류기 성능 저하 문제를 해결하기 위한 방법은 크게 2가지로 나눠볼 수 있다. 첫 번째 방법은 분류기에 이미지를 입력하기 전에 잡음을 제거하는 것이다. 대표적인 방법은 중앙값(median) 필터, 가우시안(gaussian) 필터 등 적절한 필터를 사용하는 것인데, 잡음이 첨가되지 않은 픽셀에 대해서도 동일하게 적용되기 때문에 중요한 이미지 특징들도 함께 열화(blurring)시키는 단점이 있다[14]. 또한 잡음의 발생 시기, 크기, 형태는 많은 경우 예측하기 어렵다. 따라서 잡음을 확률 모델로 추정하여 완벽하게 제거하는 것은 현실적으로 쉬운 과업이 아니다.

Sudipta 등은 CNN 모델과 오토인코더 모델을 결합한 형태의 잡음에 강인한 이미지 분류 모델인 RSDAECNN을 제안하였다[15]. 낮은 수준의 잡음이 첨가된 이미지로 학습된 오토인코더와 원본 이미지로 학습된 오토인코더 의 조합으로 3가지 분류기를 구성하고 각 분류기의 분류 결과를 종합하여 이미지를 분류하는 방식이다. 이를 통해 CNN 기반의 분류기에 비해 높은 분류 정확도를 달성하였다. 하지만 분류기의 성능은 학습 시 사용한 잡음 데이터에 크게 좌우되는 문제가 있다.

잡음에 의한 분류기 성능 저하를 극복하기 위한 두 번째 방법은 잡음에 강인한 분류기 모델을 구성하는 것이다. 본 논문은 두 번째 방법에 해당하는 것으로 다수의 오토인코더 모델을 이용하여 잡음에 강인한 이미지 분류 시스템을 제안한다. 오토인코더 모델이 클래스 A의 이미지들로만 학습되었다면, 클래스 A에 속하는 이미지에 대한 모델 출력값은 입력값과 매우 유사할 것이다. 하지만 클래스 A에 속하지 않는 이미지에 대한 모델 출력값은 입력값과 크게 다를 것이다. 제안하는 시스템은 이러한 관계를 이용하여 잡음 이미지에 대한 분류 정확도를 향상시킨다. 또한 오토인코더 모델 학습 시 원본 데이터만을 사용하기 때문에 RSDAECNN과 달리 학습 시 사용되는 이미지의 잡음 정도에 따른 모델 성능의 의존성이 없다.

본 논문은 다음과 같이 구성된다. 2장에서 제안하는 시스템의 주요 구성요소인 오토인코더에 대해서 살펴보고, 3장에서는 제안하는 시스템의 이미지 분류 과정에 대해서 구체적으로 설명한다. 4장에서 제안하는 시스템의 성능을 실험을 통해 살펴보고 CNN 기반의 기법들과 비교한다. 마지막으로 5장에서 결론을 맺는다.

2. 오토인코더 소개

본 장에서는 제안하는 시스템의 주요 구성요소인 오토 인코더에 대해서 간략히 살펴본다.

오토인코더는 모델의 입력값이 출력값과 유사해 지도록 학습하는 비지도 학습(unsupervised learning) 형태의 인공신경망이다. 그림 1은 오토인코도의 기본 구조를 나타낸다.

(그림 1) 기본 오토인코더의 구조

(Figure 1) The structure of basic autoencoder

기본적으로 오토인코더는 인코더(encoder) f(∙)와 디코더(decoder) g(∙) 부분으로 구성된다. 모델의 입력값을 x∈Rⁿ라 할 때 인코더의 출력과 디코더의 출력은 식(1), 식(2)와 같다.

\(z=f(x) \in R^{m}, n>m \)       (1)

\(y=g(f(x)) \in R^{n}\)       (2)

오토인코더는 식(3)과 같이 x와 y의 오차를 손실함수로 정의하고 손실함수가 최소가 되도록(즉, x≈y) 모델의 파라미터(가중치와 바이어스) θ를 경사 하강법(gradient descent) 등을 이용하여 최적화한다.

\(\theta^{*}=\underset{\theta}{\arg \min } L(x, g(f(x)))\)       (3)

그림 1에서 보는 바와 같이 n>m 이기 때문에 인코더는 입력 데이터의 특징을 함축적으로 표현할 수 있다. 이러한 특성은 데이터 압축, 차원 축소(dimensionality reduction), 사전학습(pre-training), 잡음 제거(denoising) 등에 활용된다[16,17].

오토인코더에서 데이터가 처리되는 과정을 살펴보면 입력데이터는 인코더에 의해서 데이터가 함축적으로 표현되고 디코더에 의해서 다시 복원된다. 즉, 데이터가 인코더에 의해서 표현될 때 불필요한 정보들은 생략된다. 다시 말해, 입력 데이터를 표현하는 핵심적인 요소들을 제외한 요소들은(예, 잡음) 제거되는 것이다. 이러한 특성을 이용하여 잡음 제거 목적으로 오토인코더가 사용될 수 있다. 그림 2는 잡음 제거 오토인코더의 구조를 나타낸다.

(그림 2) 기본 잡음 제거 오토인코더의 구조

(Figure 2) The structure of basic denoising autoencoder

잡음 제거 오토인코더는 원본 데이터(x)에 인위적으로 잡음을 첨가한 잡음 데이터(\(\bar{x}\))를 인코더의 입력으로 하고 출력 데이터(y)가 원본 데이터에 가깝도록 학습한다.

\(\theta^{*}=\underset{\theta}{\operatorname{argmin}} L(x, g(f(\bar{x})))\)       (4)

식 (4) 에서 보는 바와 같이 잡음 제거 오토인코더는 입력데이터에 잡음을 첨가하는 절차를 제외하고는 기본 오토인코더와 동일하다.

3. 제안하는 이미지 분류 시스템

본 장에서는 제안하는 이미지 분류 시스템에 대해서 구체적으로 살펴본다. 표 1은 제안하는 시스템을 설명하기 위한 기호들이다.

(표 1) 기호와 의미

(Table 1) Symbol and meaning

3.1 시스템 구성

제안하는 시스템은 2단계로 구성된다. 첫 번째 단계에서는 입력 이미지를 n개의 오토인코더에 각각 입력하여 출력 손실 값을 계산한다. 손실 값이 가장 작은 모델에 해당하는 클래스로 입력 이미지를 분류한다. 만약 가장 작은 두 개의 손실 값의 차이가 크지 않으면 2단계로 이동한다. 다시 말해, 분류의 확신도가 높지 않은 경우, 2개의 후보에 대해 추가적인 분류 절차를 거치는 것이다.

2단계에서는 1단계에서 선택된 클래스들의 데이터로 학습된 오토인코더를 이용하여 입력 이미지의 클래스를 최종적으로 판단한다. 1단계에서와 마찬가지로 입력 이미지를 오토인코더에 각각 입력하여 출력 손실 값을 계산하고, 손실 값이 가장 작은 모델에 해당되는 클래스로 입력 이미지를 최종적으로 분류한다.

그림 3은 제안하는 시스템의 구성을 개념적으로 나타낸 것이다.

(그림 3) 제안하는 시스템의 개념도

(Figure 3) The conceptual diagram of the proposed system

3.2 제안하는 시스템에서 오토인코더의 종류

제안하는 시스템에 사용되는 오토인코더의 종류는 두 가지이며, 각각을 1차 오토인코더(1-AE), 2차 오토인코더 (2-AE)로 명명한다. 1-AE는 제안하는 시스템의 1단계에서 사용되며, 2-AE는 2단계에서 사용된다. 한편, 1-AE와 2-AE의 구조는 동일하지만 학습에 사용되는 데이터가 서로 다르다.

1-AE는 동일한 클래스의 데이터들로 학습된다. 즉, AE_i는 T_i 데이터로 학습된다. 반면, 2-AE는 2개 클래스의 데이터들이 학습에 사용된다. AE_ij는 T_i와 T_j 데이터로 학습된다. 첫 번째 클래스의 데이터(즉, T_i)에 대한 출력은 입력 데이터와 동일하지만, 두 번째 클래스의 데이터(T_j)에 대한 출력은 식(5)와 같다. \(\check{x}\)는 x를 반전시킨 데이터를 의미하며, max(x)는 입력되는 이미지 픽셀의 최대값을 나타낸다. 즉, 출력데이터는 입력데이터의 반전된 형태이다. 이는 각 픽셀값의 차이를 인위적으로 크게 하여 두 번째 클래스의 데이터에 대한 출력손실이 첫 번째 클래스의 데이터에 대한 출력손실보다 크도록 하기 위함이다.

\(\breve{x}_{i}=-x_{i}+\max (x)\)       (5)

그림 4는 숫자 6 이미지를 AE₆₀과 AE₀₆에 입력했을 때의 출력 이미지를 나타낸다. AE₆₀은 T₆과 반전된 T₀로 학습되었기 때문에 숫자 6의 이미지를 입력했을 때 입력이미지와 유사하게 출력된다. 하지만, AE₀₆은 T₀과 반전된 T₆로 학습되었기 때문에 숫자 6의 이미지를 입력했을 때 반전된 이미지가 출력된다. 이때 L₆₀은 L₀₆에 비해 매우 작은 값을 갖게 된다. 따라서 손실 값을 토대로 입력 이미 지는 숫자 0이 아니라 숫자 6으로 쉽게 분류할 수 있다.

(그림 4) 2-AE 모델의 출력 이미지 예

(Figure 4) The example of outputs of 2-AEs

3.3 이미지 분류 절차

제안하는 시스템에서 잡음이 첨가된 이미지를 분류하는 세부 절차는 아래와 같고, 그림 5는 제안하는 시스템의 세부 이미지 분류 절차를 도식화한 것이다.

(그림 5) 제안하는 시스템의 잡음 데이터 분류 절차

(Figure 5) Classification flowchart for noisy data in the proposed systems

1) 모든 1-AE에 잡음 데이터 \(\bar{x}\)를 입력하여 각 모델별 손실값을 계산한다.

2) 손실값 n개 중 가장 작은 손실 값 L_i와 L_j를 선택한다.

3) 만약 \(l_{i} \times \alpha 이면 x를 클래스 i로 분류하고, 그렇지 않으면 분류 2단계로 이동한다. 여기서 \(\alpha\)는 1 이상의 실수값으로 2단계에 진입하는 정도를 조정하는 파라미터이다. 즉, \(\alpha\)가 1에 가까울수록 2단계에 진입할 확률이 낮고, \(\alpha\)가 1보다 클수록 2단계에 진입할 확률이 높다.

4) 2-AE인 AE_ij와 AE_ji에 \(\bar{x}\)를 입력하여 손실 값 L_ij와 L_ji 를 계산한다.

5) L_ij < L_ji인 경우 x를 클래스 i로 분류하고, 그렇지 않으면 x를 클래스 j로 분류한다.

3.4 이미지 분류 예제

제안하는 시스템의 이미지 분류 예제를 간단히 살펴본다. 숫자 0부터 9까지의 이미지 중 그림 6과 같이 가우시안 잡음으로 오염된 숫자 6 이미지를 분류하는 과정이다.

(그림 6) 원본 이미지와 잡음 이미지

(Figure 6) Original image and Noisy image

그림 7은 제안한 시스템의 1단계 분류 절차에서 각 오토인코더의 출력 이미지를 나타낸다. 각 오토인코더의 손실값을 비교해보면 AE₆의 손실 값이 0.189로 가장 작다. 즉, 해당 이미지를 클래스 6으로 분류할 수 있다. 그런데 AE₅와의 손실 값 차이가 크지 않다. 따라서 분류 결과의 신뢰도를 높이기 위해 2단계 분류 과정을 필요시 추가적으로 수행한다. 2단계 분류 과정 수행 여부는 a 값에 의해서 좌우된다.

(그림 7) 제안하는 시스템의 1단계 오토인코더의 출력 이미지

(Figure 7) Output images of autoencoders in the first phase of the proposed system

그림 8은 2단계 분류 절차에서 AE₆₅과 AE₅₆의 출력이미지를 나타낸다. 그림에서 알 수 있는 바와 같이 해당 이미지는 숫자 6이기 때문에 해당 이미지의 반전된 이미지로 학습된 AE₅₆의 출력 이미지는 입력이미지의 반전된 형태로 나타난다. 이것은 손실 값을 매우 크게 만든다. 따라서 두 오토인코더의 손실 값의 차이가 1단계에 비해서 매우 커졌다. 결과적으로 AE₆₅의 손실 값이 AE₅₆에 비해 매우 작으므로 해당 이미지를 클래스 6으로 분류한다.

(그림 8) 제안하는 시스템의 2단계 오토인코더의 출력

(Figure 8) Output images of autoencoders in the second phase of the proposed system

4. 성능 분석

본 장에서는 제안하는 시스템의 성능을 분석하기 위해 가우시안 잡음으로 오염된 MNIST 데이터셋을 대상으로 분류 정확도를 측정하고, CNN 시스템, 오토인코더와 CNN이 결합된 시스템, 그리고 제안하는 시스템의 성능을 비교, 분석한다.

4.1 실험 환경

MNIST 데이터셋는 0부터 9까지의 필기체 숫자 이미지로 28×28픽셀의 그레이스케일 이미지 6만 장의 학습데이터와 1만 장의 테스트데이터로 구성되어 있다.

잡음 이미지는 식 (6) 과 같이 MINIST의 원본 데이터에 가우시안 잡음을 첨가하여 생성하였다. 식(6)에서 확률변수 \(\epsilon_{i}\)는 서로 독립이며 평균이 0이고 표준편차가 1인가 우시안 확률분포를 동일하게 따른다. 가우시안 잡음은 원본 데이터에 \(\gamma \cdot \epsilon\) 만큼이 더해진다. \(\gamma\)는 원본 데이터에 더해지는 잡음의 정도를 조절하는 파라미터로 0~1까지의 값을 갖는다. \(\gamma\)가 클수록 첨가되는 잡음의 정도가 심해진다.

\(\bar{x}_{i}=x_{i}+\gamma \cdot \epsilon_{i}\)       (6)

그림 9은 \(\gamma\)의 크기에 따른 이미지의 모양을 나타낸다. \(\gamma\)=0인 경우는 잡음이 첨가되지 않은 원본 이미지를 의미한다. \(\gamma\)가 0.5 이상인 경우 잡음으로 인해 육안으로 이미지에 포함된 숫자를 인식하기 어렵다.

한편, 실험간 사용된 손실함수는 이미지의 픽셀 단위의 오차의 평균으로 식(7)과 같이 정의하였다.

\(L_{i}=\frac{1}{N} \sum_{i=1}^{N}\left(x_{i}-\hat{x_{i}}\right)^{2}\)       (7)

4.2 실험 결과

그림 10은 가우시안 잡음으로 오염된 데이터에 대한 분류 정확도를 비교한 것으로 CNN을 적용한 결과, AE를 통해 잡음을 제거한 후 CNN을 적용한 결과(AE+CNN) 그리고 제안한 시스템의 1단계만을 적용한 결과(즉, \(\alpha=1\)), 제안한 시스템의 1, 2단계를 모두 적용한 결과(즉, \(\alpha\)를 매우 높은 값으로 설정)를 각각 나타낸다. AE+CNN 기법에서 오토인코더 모델은 모든 클래스의 데이터들(T₁, T₂, ... T_n)로 학습되었다.

그림 10에서 알 수 있는 바와 같이 4가지 방법 모두 \(\gamma\) 가 증가함에 따라 분류 정확도는 감소한다. 그런데 CNN은 \(\gamma\)가 0.3 이상으로 증가하면 정확도가 급격히 저하된다. 반면 AE+CNN 기법과 제안하는 기법은 \(\gamma\)가 증가함에 따라 감소되는 정확도의 폭이 CNN에 비해 상대적으로 크지 않다.

(그림 10) 정확도 비교: CNN, AE+CNN, 제안한 시스템

(Figure 10) Accuracy Comparison: CNN, AE+CNN and Prop. systems

CNN은 \(\gamma\)가 낮은 경우에는 가장 우수한 정확도를 나타낸다. 하지만 \(\gamma\)가 증가할수록 정확도가 크게 감소되어 \(\gamma\)가 0.3 이상이 되면 제안하는 기법에 비해 정확도가 크게 낮아진다.

AE+CNN 기법은 \(\gamma\)가 작은 경우 4가지 방법 중 가장 낮은 정확도를 보인다. \(\gamma\)가 증가하게 되면 CNN 방법에 비해 높은 정확도를 나타내지만 제안하는 기법에는 미치지 못한다. AE+CNN 기법은 AE 모델에 의해서 잡음이 제거된 후 CNN 모델에 의해서 이미지가 분류된다. 따라서 잡음이 증가할수록 잡음 제거 효과에 의해 분류 정확도가 CNN 모델에 비해서 높게 나타난다. 하지만 AE 모델에 의한 잡음 제거가 완벽할 수 없기 때문에 \(\gamma\)가 증가할수록 정확도는 점점 저하된다.

제안한 기법들은 \(\gamma\)가 작을 때 CNN에 비해 정확도가 다소 낮지만 \(\gamma\)가 커질수록 다른 기법에 비해 높은 정확도를 나타낸다. 또한 제안한 기법 중 1, 2단계를 모두 적용한 결과가 1단계만을 적용한 결과에 비해 다소 높은 정확도를 나타낸다. 즉, 1단계에서 분류에 실패했더라도 2단계에서 분류가 성공한다는 것을 의미한다. 특히, \(\gamma\)가 0.7 이상이면 심한 잡음으로 인간의 눈으로도 잡음 이미지를 분류하기가 쉽지 않다. 하지만 제안하는 기법은 약 70% 이상의 정확도로 이미지 분류가 가능하다. 표 2는 실험결과의 수치를 나타낸다. 결론적으로 잡음이 많은 환경에서는 제안하는 기법이 효과적으로 활용될 수 있다.

(표 2) 실험 결과

(Table 2) Simulation results

한편 제안하는 기법은 AE+CNN 기법과 달리 절대적인 잡음 제거 효과로 정확도가 결정되지 않고, 각 AE 모델별 상대적인 손실 값에 의해 정확도가 결정된다. 즉, 완벽한 잡음 제거 효과가 아니라 다른 AE 모델에 비해 상대적으로 우수한 잡음 제거 효과만이 요구된다. 이러한 이유 때문에 제안하는 기법이 AE+CNN 기법에 비해 잡음 환경에서 보다 우수한 성능을 나타내는 것으로 판단된다.

5. 결론

본 논문은 다수의 오토인코더 모델의 조합을 통해 잡음에 강인한 이미지분류 시스템을 제안하였다. 제안하는 시스템은 2단계로 구성된다. 1단계에서 오토인코더들의 입력 데이터와 출력 데이터 간의 오차들을 비교하여 분류할 클래스를 선택한다. 만약 분류 확률이 가장 높은 2개의 클래스에 대한 분류 확률이 서로 유사하면 2단계에서 추가적인 분류 절차를 수행하여 이미지 분류의 정확도를 높인다. 가우시안 잡음으로 오염된 MNIST 데이터를 대상으로 실험했을 때 제안하는 시스템이 CNN 기반의 시스템, 오토인코더와 CNN이 결합된 시스템에 비해 잡음 환경에서 보다 높은 분류 정확도를 나타냈다.