A Predictive Bearing Anomaly Detection Model Using the SWT-SVD Preprocessing Algorithm

SWT-SVD 전처리 알고리즘을 적용한 예측적 베어링 이상탐지 모델

Abstract

In various manufacturing processes such as textiles and automobiles, when equipment breaks down or stops, the machines do not work, which leads to time and financial losses for the company. Therefore, it is important to detect equipment abnormalities in advance so that equipment failures can be predicted and repaired before they occur. Most equipment failures are caused by bearing failures, which are essential parts of equipment, and detection bearing anomaly is the essence of PHM(Prognostics and Health Management) research. In this paper, we propose a preprocessing algorithm called SWT-SVD, which analyzes vibration signals from bearings and apply it to an anomaly transformer, one of the time series anomaly detection model networks, to implement bearing anomaly detection model. Vibration signals from the bearing manufacturing process contain noise due to the real-time generation of sensor values. To reduce noise in vibration signals, we use the Stationary Wavelet Transform to extract frequency components and perform preprocessing to extract meaningful features through the Singular Value Decomposition algorithm. For experimental validation of the proposed SWT-SVD preprocessing method in the bearing anomaly detection model, we utilize the PHM-2012-Challenge dataset provided by the IEEE PHM Conference. The experimental results demonstrate significant performance with an accuracy of 0.98 and an F1-Score of 0.97. Additionally, to substantiate performance improvement, we conduct a comparative analysis with previous studies, confirming that the proposed preprocessing method outperforms previous preprocessing methods in terms of performance.

섬유, 자동차와 같은 여러 제조 공정에서 설비가 고장이 나 멈추게 되면 기계가 작동하지 않게 되고 이는 기업의 시간적, 금전적 손실로 이어진다. 따라서 설비의 고장이 발생하기 전, 고장을 예측하여 정비할 수 있도록 설비의 이상을 사전에 탐지하는 것이 중요하다. 대부분의 설비 고장 원인은 설비의 필수 부품인 베어링의 고장으로, 베어링의 고장을 진단하는 것은 설비예지보전 연구의 핵심이기도 하다. 본 논문에서는 베어링의 진동 신호를 분석하여 SWT-SVD 전처리 알고리즘을 제안하고 이를 시계열 이상탐지 모델 네트워크 중 하나인 어노멀리 트랜스포머에 적용하여 베어링 이상탐지 모델을 구현한다. 제조공정의 베어링 진동신호는 실시간으로 센서값들의 이력이 작성되어 노이즈가 존재하므로, 이를 줄이기 위해 본 연구에서는 정상 웨이블릿 변환(Stationary Wavelet Transform)을 사용하여 주파수 성분을 추출하고, 특이값 분해(Singular Value Decomposition) 알고리즘을 통해 유의미한 특징들을 추출하는 전처리를 진행한다. 제안하는 SWT-SVD 전처리 방법을 적용한 베어링 이상탐지 모델 실험을 위해 IEEE PHM학회에서 제공하는 PHM-2012-Challenge 데이터 세트를 활용하였으며, 실험 결과는 0.98의 정확도와 0.97의 F1-Score로 우수한 성능을 보였다. 추가로, 성능 향상을 입증하기 위해 선행 연구들과 성능 비교를 진행한다. 비교 실험을 통해 제안한 전처리 방법이 기존의 전처리보다 높은 성능을 보임을 확인하였다.

1. 서론

제조 산업에서는 IoT, 인공지능, 빅데이터, 로봇 공학과 같은 다양한 기술을 활용하여 제조 과정을 자동화하고 최적화하는 시스템을 구축하고자 한다. 따라서 품질예측자동화, 실시간공정모니터링, 설비예지보전과 같은 다양한 연구가 진행되고 있다[1,2]. 여기서 설비예지보전이란 설비의 사용 수명을 유지하거나 연장하기 위해 설비의 구조, 시스템 또는 구성 요소의 비정상을 감지하거나 예방하는 유지 관리를 의미[3]하며, 이 설비예지보전 연구는 스마트공장을 구현하고자 하는 여러 산업 분야에서 핵심 연구로 인식되고 있다. 특히, 섬유염색공정은 옷감, 천을 만드는 섬유공장에서 섬유소재에 색을 부여하는 중요한 공정으로써 색상의 일관성 문제와 같은 이상이 발생하였을 때 제품의 외형 불량 및 소비자 만족도 하락 등의 문제가 발생할 수 있다. 또한, 섬유공정은 염색기, 건조기와 같은 공정 설비를 통해 공정이 진행되며, 대부분의 공정은 설비에 의존적이다. 따라서 섬유공정에서 설비의 고장을 사전에 예측하는 설비이상탐지는 중요한 연구주제이다. 이와 같은 공정 설비의 고장 대부분은 설비의 핵심 부품 중 하나인 베어링의 결함으로 인한 것이므로 베어링의 이상을 신속히 감지하고 조치하는 것은 설비의 안전성과 신뢰성을 향상시키고, 고장으로 인한 기업의 금전 및 시간적 문제를 예방하는 것에 있어 중요한 문제이다. 따라서 이에 대한 여러 베어링 이상탐지 연구가 수행되고 있으며[4,5] 특히 섬유공정에서 베어링의 이상을 탐지하는 연구도 다양하다[6,7]. 그러나 베어링 이상탐지를 수행하는데 있어 문제점이 존재한다. 제조공정 데이터는 실시간으로 진동 센서 값들의 이력이 작성된다. 이는 시간마다 측정이 되는 것이기 때문에 웨이브 형태를 띄는 시계열 데이터이고, 데이터 내 잡음, 노이즈가 존재한다. 따라서 공정에서 바로 측정된 원시 데이터는 주파수 도메인 분석이 어려우며 예측 성능이 떨어지는 한계가 있다. 본 논문에서는 이러한 문제점을 개선하고자 PHM-2012-Challenge 데이터 세트를 활용하여 진동센서값으로 구성된 데이터세트의 전처리를 위해 SWT-SVD 전처리 알고리즘을 제안하고 구현한다. 데이터의 노이즈를 줄이고 중요한 학습 특징을 추출하기 위해 정상 웨이블릿 변환 방법(Stationary Wavelet Transform, SWT)을 활용하여 주파수 성분을 추출하고, 이 추출된 주파수 성분을 특이값 분해(Singular Value Decomposition, SVD) 알고리즘을 이용하여 저차원으로 축소하여 데이터의 상관관계를 파악하고 필요한 특징을 추출한다. 제안한 SWT-SVD 전처리 결과를 어노멀리 트랜스포머 모델 네트워크에 적용하여 베어링 이상탐지 모델을 개발하고 타전처리 방법 및 모델과 비교 실험하여 성능의 우수성을 입증한다.

논문의 구성은 다음과 같다. 2장에서는 진동 신호 데이터의 기존 전처리 방법 및 베어링 이상탐지 모델에 대한 선행 연구들을 소개하고, 본 연구에서 사용된 SWT, SVD 방법과 어노멀리 트랜스포머 모델 네트워크에 대한 이론적 내용을 기술한다. 3장에서는 제안하는 베어링 이상탐지 모델 설계 및 SWT-SVD 전처리 알고리즘에 대해 설명한다. 4장은 제안하는 전처리 방법을 구현 후 어노멀리 트랜스포머 모델에 적용하여 성능평가 실험을 하고, 기존 선행된 전처리 및 모델 관련 연구에 대해서 구현하고 성능을 비교한다. 마지막으로 5장에서는 결론을 맺는다.

2. 관련 연구

2.1 선행 연구

2.1.1 베어링 진동 신호 전처리 선행 연구

과거 베어링의 진동 신호 데이터를 분석하고 유용한 정보를 추출하기 위해 이동평균, 분산, 왜도 및 첨도와 같은 통계적 방법을 활용한 연구가 다수 진행되었다. 특히, Xiaohui Gu et al.[8]은 첨도(Kurtosis)에 기반한 Kurtogram과 Frequency Domain Correlated Kurtosis(FDC(k)-Kurtosis) 같은 빈도-시간 분석 기법을 활용하여 베어링 진동 신호데이터를 분석하고 관련 특징을 추출하였다. 또한, Edwin Sutrisno et al.[9] 은 IEEE Phm-2012-Challenge 데이터를 사용하여 스펙트럼 첨도를 활용한 베어링 고장 예측 연구를 수행하였다. 0.1초로 측정된 전체 진동 신호를 500Hz 주파수 대역으로 필터링하고 스펙트럼 첨도를 계산하였다. 이후 첨도 값에 대해서 이동 평균(Moving average) 기법을 적용하여 잡음을 제거하였다. 이외에도 첨도, RMS, 이동평균, 엔트로피 기반의 다양한 확률론적 방법을 활용한 전처리 연구들이 수행되었다[10,11,12,13]. 그러나, 왜도와 첨도는 주로 대칭성과 분포의 뾰족한 정도를 측정하는 데 사용되기 때문에, 비대칭적 분포를 갖는 베어링의 진동 데이터의 경우 왜도와 첨도만으로 충분한 특징을 추출하기 어려울 수 있다는 한계가 있다.

통계적 방법의 한계를 극복하고 더 정확한 베어링 신호 모니터링을 위해 주파수 변환 기반의 분석 방법이 연구되었다. 푸리에변환은 시간 또는 공간에 대한 함수를 시간 또는 공간 주파수 구성요소로 분해하는 방법으로, Bin Zhang et al.[14]은 시간 영역의 한계를 극복하기 위해 특정 주파수 대역에 대한 대역통과필터(Band Pass Filter)를 적용한 후, 해당 신호를 주파수 도메인으로 변환하여 전처리를 수행하였다. 푸리에변환은 주파수 영역의 특징을 단순 신호로 표현하여 추출할 수 있는 주파수 변환 기법이지만, 무한으로 가정되는 연속적인 데이터를 전제로하기 때문에 현실적으로 일련의 샘플링된 데이터에 적용하는 것에 한계가 있다.

이러한 푸리에변환의 한계점을 개선하기 위해 이산웨이블릿 변환 방법(Discrete Wavelet Transform, DWT)[15]이 제안되었다. DWT는 동시에 시간과 주파수 공간에서의 진동의 변화를 파악하고 주파수의 세부적 정보와 근사 정보를 추출하며, 노이즈를 제거할 수 있다는 장점이 있다. 따라서 DWT를 사용하여 베어링 진동 데이터 전처리를 수행한 연구는 다양하게 진행되었다[16,17,18]. 특히, Aditi B. Patil et al.[19]은 DWT를 사용하여 노이즈를 제거하고 관련 특징을 추출하고자 전처리를 진행하였으며, 이 후 웨이블릿 변환에 의해 추출된 베어링 결함 특징을 ANN(Artificial Neural Network)에 적용하여 학습하고 베어링의 결함 여부를 분류하는 모델을 개발하였다.

2.1.2 베어링 이상탐지 선행 연구

기존의 베어링 이상탐지 연구에서는 생성형 모델인 GAN(Generative Adversarial Network)을 활용하여 다양한 연구가 수행되었다[20,21,22]. 그러나 GAN은 시계열성을 가지는 베어링의 진동 신호 데이터에서는 시간 정보를 반영하지 못하기 때문에 학습이 어렵다는 문제가 있다. 따라서 시간정보를 반영하여 모델 학습에 영향을 미치는 LSTM 순환 신경망 모델을 사용하여 이상탐지를 수행한다. LSTM은 기존 순환 신경망인 RNN(Recurrent Neural Network) 모델 네트워크의 문제점인 기울기 소실 문제(Vanishing gradient problem)를 해결하였고, 시계열 데이터의 시간적 특성을 잘 파악할 수 있는 모델 네트워크이다. 따라서 시계열 이상탐지를 위한 방법론인 오토인코더를 사용한 LSTM-AE[23]기반 베어링 이상탐지 연구가 다수 수행되었다[24,25,26]. 예를 들어 Pooja Vinayak Kamat et al.[27]은 베어링 이상탐지 연구위해 LSTM-AE를 활용하였다. 원시 진동 데이터에서 시간 영역 데이터를 추출하는 전처리 작업을 진행한 후, LSTM 기반의 오토인코더 모델을 학습하여 이상탐지를 수행하였다.

2.2 이론적 배경

2.2.1 정상 웨이블릿 변환

정상 웨이블릿 변환(SWT)[28]은 DWT와 다르게 다운샘플링 없이 주파수 변환을 하기 때문에 원본 데이터의 해상도를 유지하면서 주파수 성분을 추출한다. 베어링 진동 신호 데이터에서 고주파 성분은 이상탐지를 위해 중요한 요소이므로 본 연구에서는 원본 데이터의 해상도를 유지하며 고주파 성분 추출을 하는 SWT 방법을 사용한다. SWT는 입력 신호를 고주파 성분에 해당하는 상세계수(Detail Coefficient)와 저주파 성분에 해당하는 근사 계수(Approximation Coefficient)로 나뉘는 다해상도 분해를 수행한다[29]. 그림 1을 보면 주어진 신호 x(n)에 대해 저주파 분해 필터인 h(n)과 고주파 분해 필터인 g(n)를 통과하여 근사계수 a₁과 상세계수 w₁을 구한다. 이와 같은 한 번의 단계를 Level 1이라 하며, 근사 계수 a₁을 입력으로 넣어 똑같은 과정을 반복하여 분해한다.

(그림 1) 정상 웨이블릿 변환 분해 과정

(Figure 1) Stationary Wavelet Transform Decomposition Process

2.2.2 특이값 분해

특이값 분해(SVD)[30]는 입력 데이터의 선형 관계를 추출하고, 데이터 압축을 통해 의미 있는 패턴이나 성분을 추출하기 위해 사용하는 행렬 분해 방법이다. 특이값 분해는 수식1과 같이 행렬 A를 세 개의 행렬(U, ∑, V )로 분해된다.

A = U∑V^T       <수식 1>

행렬 U는 AA^T 의 고유벡터들을 열로 가지는 행렬이다. ∑는 대각행렬로, 대각원소에는 특이값들이 정렬된다. V는 A^TA의 고유벡터들을 열로 가지고 있는 행렬로써 행렬 U가 데이터의 행방향 기저를 나타낸다면 V는 열방향 기저를 나타내는 행렬이다. 즉, 특이벡터인 행렬 U와 V은 직교하는 성질로 구성되어 있으며, 이 열벡터는 직교 행렬 A를 분해하여 특이값인 대각행렬 ∑을 구한다. 데이터의 차원의 깊이를 결정하기 위해 특이값(대각 행렬 ∑)을 선택할 수 있다. 이때 선택하는 특이값의 개수가 주요한 성분의 수를 나타낸다. 이를 통해 데이터를 더 압축시키거나 차원을 증가시킬 수 있다.

2.2.3 어노멀리 트랜스포머

최근에는 LSTM의 시간 정보를 소실하는 장기 의존성 문제를 해결한 트랜스포머(Transformer)[31]를 활용한 시계열 이상탐지 모델이 등장하고 있다. 본 연구에서는 LSTM의 장기의존성 문제를 해결하고 시간 정보를 잘 반영하는 트랜스포머 모델 구조에 기반하는 어노멀리 트랜스포머(Anomaly-Transformer) 네트워크를 사용하여, 제안하는 전처리 방법을 적용한 베어링 이상탐지 모델을 구현하고자 한다.

어노멀리 트랜스포머는 그림 2과 같은 구조를 갖는다. 어노멀리 어텐션 네트워크를 통과하여 재구성된 값 \(\begin{align}\hat {x}\end{align}\) 와 원본 입력 값인 x를 통해 재구성 오차를 구하고 어노멀리 어텐션 구조에서 구한 두 개의 어텐션 값에 대한 연관 거리(Association Distance)값을 구한다. 이 오차 값과 연관 거리 값을 곱연산하여 어노멀리 스코어를 구한다. 이 때 연관 거리는 이상치가 전반적인 시계열 분포에 대해서 약한 상관관계를 띠지만, 이상치가 인접한 부분에서는 강한 상관관계를 가진다는 점을 고려하여 Global Attention 값과 Local Attention 값을 통해 구한다. Global Attention 값은 일반 트랜스포머의 Multi-head Attention을 수행하여 구하며 Local Attention 값은 이상치가 분포하는 곳에 인접한 시점의 상관관계가 높게 나타난다는 것을 고려하여 이상치와 인접한 시점에 높은 가중치를 매기기 위해 가우시안 커널을 입혀서 구한다.

(그림 2) 베어링 이상탐지 모델 프레임워크

(Figure 2) Bearing Anomaly Detection Model Framework

3. 베어링 이상탐지 모델 설계 및 SWT-SVD 전처리 알고리즘

3.1 베어링 이상탐지 모델 설계

본 연구에서는 주파수 변환을 통한 특징 추출 전처리방법인 SWT-SVD 전처리 방법을 제안하고 어노멀리 트랜스포머 시계열 이상탐지 모델 네트워크를 사용하여 공정 설비 속 베어링의 이상을 탐지하는 모델을 개발한다.

그림 3은 연구에서 제안하는 베어링 이상탐지 모델 개발을 위한 전체 프레임워크이다. 진동 신호가 실시간으로 이력된 베어링의 진동 시계열 데이터는 시간 도메인으로 분포되어있어 주파수 형태로의 분석이 어렵고 예측 성능도 떨어뜨리는 문제가 있다. 그렇기 때문에 주파수 분석과 변환을 위한 전처리 방법이 필요하며, 본 연구에서는 주파수 변환을 위해 정상 웨이블릿 변환 방법을 사용한다. 주파수 변환을 통해 고주파와 저주파 정보를 가진 여러 개의 주파수 특징들이 파생되는데 학습 속성의 개수가 많아질수록 차원의 개수가 늘어나며 연산량과 성능에 영향을 미칠 수 있다. 따라서 특이값 분해 특징 추출 알고리즘을 사용하여 하나의 의미있는 속성으로 특징 추출을 진행한다. 전처리를 진행한 후, 전처리된 데이터를 가지고 베어링 이상탐지 모델 학습을 수행한다. 모델은 트랜스포머 계열의 시계열 이상탐지 모델인 어노멀리 트랜스포머 네트워크를 사용한다. 어노멀리 트랜스포머는 2장에서 언급하였듯이 전반적인 전체 시계열 분포에서는 정상 데이터가 비정상 데이터보다 강한 상관관계를 띄지만(Global-Association), 비정상 데이터가 분포하는 시점의 앞뒤 시점에서는 정상 분포가 국소적으로 보았을 때 약한 상관관계를 가진다(Local-Association)는 것을 고려하여 두 개의 어텐션 값을 도출한다. 이 도출된 두 개의 어텐션 값을 가지고 어노멀리 스코어 값을 구하여 이상탐지를 수행한다.

(그림 3) 베어링 이상탐지 모델 프레임워크

(Figure 3) Bearing Anomaly Detection Model Framework

3.2 SWT-SVD 전처리 알고리즘

본 논문에서 제안하는 전처리 알고리즘에 대한 슈도코드는 아래 그림 4과 같다.

(그림 4) SWT-SVD 전처리 알고리즘

(Figure 4) SWT-SVD Preprocessing Algorithm

SWT를 수행하기 전, 알고리즘 슈도코드를 보면 본 연구에서 사용하는 데이터의 전처리를 위해 간단한 데이터파일을 합치는(merge) 전처리를 진행한다. 원시데이터는 총 6개의 속성 - 시(Hour), 분(Minute), 초(Second), 마이크로초(Micro-second), 수평 가속도계에서 측정된 진동신호 1(Horiz. accel.), 수직 가속도계에서 측정된 진동신호 2(Vert. accel.) -으로 구성이 되어있으며 시간 단위로 잘려 파일로 나뉘어있기 때문에 한 파일로 합쳐주는 작업을 한다. 이후, 주파수 영역에서의 특징을 추출하고 불필요한 잡음이나 노이즈를 제거하는 과정이 필요하다. 따라서 본 논문에서는 높은 해상도 분석이 가능하여 진동센서기반 데이터 분석에 유용한 SWT를 사용한다. 주파수 변환을 수행하기 위해서는 모 웨이블릿 함수(mother wavelet function)내의 기저 함수(Basis function)와 분해 레벨(level)을 선정해야 한다. 모 웨이블릿은 Haar wavelet, 다우베키스(Daubechies) 웨이블릿 함수, Morlet, Symlet 등 다양하게 존재한다. 기저 함수는 모 웨이블릿 함수의 시간 스케일을 바꿔가며 변환하면 데이터의 특정 부분을 표현하는 작은 웨이블릿 함수들이 생성되는데 이 함수를 기저함수라 부른다. 본 논문에서는 SWT 주파수 변환 수행을 위해 다우베키스 모 함수 계열의 db5 기저함수를 사용한다. 또한 분해 레벨은 모두 5레벨까지 분해하여 분해 레벨 4와 5에 해당하는 주파수 값을 사용한다.

SWT는 상세계수(Detail Coefficient, DC)와 근사계수(Approximation Coefficient, AC)로 나뉘어 분해된다. 본 연구에서 사용하는 데이터의 속성은 수평 가속도계 진동신호(Horiz. accel.)와 수직 가속도계 진동신호(Verti. accel.)이므로 각 진동신호의 상세계수 속성(HorizDC, VertiDC)과 근사계수 속성(HorizAC, VertiAC)가 추출된다. 추출된 주파수 상세계수 및 근사계수를 가지고 SVD 알고리즘을 이용하여 저차원으로 축소해, 유의미한 특징을 도출한다. 2장에서 설명하였듯이 SVD 수행 시 차원의 깊이를 결정하고 차원 축소를 얼만큼 할 것인지 결정하기 위해 특이값의 주요 성분을 선택할 수 있다. 본 연구에서는 여러번의 실험에 의해 성분의 수(Component)인자 값을 1로 설정한다. 이 파라미터 값을 1로 설정한다는 것은 특이값 중에서 가장 큰 값 하나를 선택하는 것을 의미한다. Component 인자 값을 1로 설정하였을 때와 다른 값(2 or 3)으로 설정하였을 때의 성능 차이는 4장에서 실험을 통해 보인다.

3.2.1 정상 웨이블릿 변환을 통한 주파수 변환

제조 공정 데이터는 실시간으로 센서에서 측정되는 진동 값들로 구성되기 때문에 노이즈가 많은 형태를 띠는 원시 데이터이다. 따라서 원시 데이터의 잡음을 줄이고, 시간 도메인 영역에서 파악하기 어려운 주파수 성분을 분석하며, 주요 주파수 성분을 추출하기 위해 주파수 변환을 실행한다. 주파수 변환을 수행하기 위한 대표적인 방법인 푸리에변환과 DWT는 시간과 주파수 영역 정보를 동시에 제공하지 못하여 신호 세부정보를 파악하는 것에 한계가 있으며 다운샘플링이 수행되어 데이터의 이동 변이 현상이 발생하는 문제점이 있기 때문에 이러한 문제점이 개선된 SWT를 사용하여 주파수 변환을 수행한다. SWT의 경우 저주파 분해 필터와 고주파 분해 필터에 의해 고주파인 상세계수 값과 저주파인 근사계수 값에 해당하는 주파수 값을 얻는다. 베어링의 이상을 탐지하는 작업에서 회전체인 롤링 베어링은 고주파 신호 정보가 저주파 신호 정보보다 이상 탐지에 영향을 크게 미친다[32]. 따라서 고주파 신호에 해당하는 레벨 4와 레벨 5의 상세계수 및 근사계수 값을 추출한다. 다우베키스 웨이블릿 모함수 계열의 웨이블릿 함수인 db5 함수는 연산량 및 메모리 사용량이 높지만 많은 수의 웨이블릿 계수를 사용하여 데이터의 고주파 성분의 추정에 대해서 성능이 높다는 장점이 있다. 따라서 db5 기저함수를 본 연구에서 SWT 수행 시 사용한다.

3.2.2 특징 추출

SWT 방법을 사용하여 주파수 변환을 수행한 후, 설정된 레벨에 대한 상세계수와 근사계수 값들이 추출된다. 설정한 레벨에서 도출된 모든 값의 상세계수와 근사계수값을 학습 특징으로 사용할 수 있지만, 차원의 수가 증가한다는 문제가 발생한다. 따라서 이를 해결하기 위해 근사계수와 상세계수 값에서 각각의 유의미한 단일 특징을 추출하는 특징 추출 기법을 사용한다. 본 연구에서 사용하는 베어링 진동 신호 데이터의 특징은 가우시안 분포를 따르지 않으며, 이상치가 정상치 보다 적은 불균형성을 가진다. 또한, 데이터의 분포가 시간에 따라 보았을 때 주로 뒤쪽에 분포되어있다. 이러한 데이터의 특성을 고려하여 SVD 특징 추출 알고리즘을 사용하여 평균중심화를 거치지 않고 데이터 내의 잠재적 의미를 보다 더 잘 파악할 수 있도록 특징을 추출한다.

4. 실험 및 성능평가

4.1 실험 환경 및 데이터 세트

4.1.1 실험 환경

본 장에서는 제안하는 SWT-SVD 전처리 알고리즘과 이를 적용한 어노멀리 트랜스포머 기반 베어링 이상탐지 모델을 구현한다. 또한, 첨도기반의 진동 신호 전처리 방법과 푸리에변환, 이산웨이블릿변환을 사용한 기존 선행전처리 연구들을 구현하여 이상탐지 모델에 적용하고 성능평가를 수행 및 비교한다. 전처리 및 모델 구현을 위한 실험 환경은 표 1과 같다.

(표 1) 실험 환경

(Table 1) Experimental Environment

4.1.2 데이터 세트 및 분석

본 연구에서 베어링 이상탐지를 수행하기 위해 사용한 데이터 세트는 PHM-2012-Challenge-Datset[33]으로, 해당 데이터 세트는 IEEE 2012 Prognostics and Health Management(PHM) 학회에서 제공한 롤링 베어링(Rolling Bearing)의 진동 센서로부터 얻은 측정 값들로 구성된다. 베어링의 진동 신호를 수집하기 위해 진동 신호는 수직, 수평 방향의 가속도계로 측정되었고, 10초마다 총 2560개의 샘플이 25.6 kHz의 샘플링 주파수로 기록되었다. 데이터세트는 표 2와 같이 각각 다른 실험 조건 및 상태를 가지고 측정되어 총 3가지 종류(Bearing 1, Bearing 2, Bearing 3)의 데이터세트가 존재한다. 본 연구에서는 이 중 1800rmp의 회전속도(Rotating speed)와 Radial Force가 4000N의 값을 가지는 조건에서 측정된 Bearing 1 데이터를 사용하여 실험을 진행한다.

(표 2) 데이터세트 작동 조건

(Table 2) Operating conditions of datasets

표3은 전체 데이터세트를 구성하는 파일을 보여준다. 데이터 세트는 앞서 설명하였듯이 수집 환경 조건에 따라 Bearing 1, Bearing 2, Bearing 3으로 나뉘고 각각의 데이터 세트는 학습 셋(Learning set)과 테스트 셋(Test set)으로 구성된다. 본 연구의 실험을 위해 사용할 Bearing 1 데이터 세트 또한 학습과 테스트를 위해 세트가 나뉘어 있으며, 본 실험에서는 모델 학습을 위해 Bearing1_1 Learning set을 사용하고, 성능 테스트를 위해 Bearing 1_3 Test set을 사용한다. 마지막으로 데이터의 특징(feature)은 총 두 개로, 수평(Horiz) 가속도계에서 측정된 진동 신호 값과 수직(Verti) 가속도계로 측정된 진동 신호 값으로 구성된다.

(표 3) PHM 2012 Challenge 데이터세트

(Table 3) Dataset of PHM 2012 data challenge

학습에 사용될 Bearing1_1 데이터는 라벨링이 따로 되어있지 않아 비지도 학습 기반 이상탐지를 수행한다. 추후 실험의 성능평가를 위해 사용될 테스트 데이터세트인 Bearing1_3에 대해서는 라벨링 작업을 수행한다. 앞서 언급한 것과 같이 진동 센서의 샘플링 주파수는 25.6 kHz이며, 1초마다 총 256개의 샘플이 기록되어있다. 따라서 본 논문에서 사용하는 PHM-2012-Challenge 데이터세트의 설명서[33]에서 제공된 Bearing1_3 데이터세트의 실제 잔존시간(Actual RUL)은 5730초이므로, 실제 RUL에 해당하는 샘플은 5730 * 256인 1,466,880개이다.

따라서 Bearing1_3 테스트 데이터 세트에서 정상(Normal) 분포에 해당하는 값은 그림 5에서 볼 수 있듯이 빨간 점선 이전까지의 값들로, 총 4,613,120개의 샘플을 가진다. 또한, 고장의 지점에 가는 과도기 시점인 실선 이후의 RUL 값과 실선 이후의 고장(over)에 이른 값은 1,466,880개이며, 모두 비정상(Abnormal) 샘플로 라벨링한다.

(그림 5) Bearing1_3 데이터세트의 RUL 및 Over

(Figure 5) RUL and Over of Bearing1_3 Dataset

4.2 실험 방법 및 성능 지표

4.2.1 실험 방법

본 논문에서는 PHM-2012-Challenge 데이터 세트를 사용하여 SWT-SVD 전처리 알고리즘을 제안하고 개발한다. 제안한 SWT-SVD 전처리 알고리즘의 타당성과 성능을 확인하기 위해 이상을 탐지하는 어노멀리 트랜스포머 모델 네트워크에 적용한다. 또한, 성능을 비교하여 제안한 전처리 방법의 우수성을 입증하기 위해 기존 진동 신호데이터에 사용되던 선행 전처리 방법 중 첨도 기반 전처리[9], 푸리에 변환, DWT[15], SWT[28] 방법을 구현한다. 이상탐지 성능 비교를 위해 사용된 모델은 어노멀리 트랜스포머[31]이며, 선행 연구인 LSTM-AE[23] 기반 이상탐지 모델도 구현하여 성능을 평가하고 비교한다.

4.2.2 성능 평가 지표

실험의 성능 평가를 위해 혼동행렬 기반 정확도(Accuracy)와 F1-score 성능평가 지표[34]를 사용한다. 아래의 표 4은 혼동행렬을 표현하며, 실제값과 예측값이 동일하면 True, 동일하지 않다면 False로 표기한다. 또한, Positive는 정상으로 예측한 경우, Negative는 비정상(이상)으로 예측한 경우를 의미한다.

(표 4) 혼동행렬

(Table 4) Confusion Matrix

정확도(수식 2)는 모델이 얼마나 정확한지를 측정하는 지표로써 전체 중 정확하게 측정한 값을 나타낸다.

\(\begin{align}\text {Accuracy}=\frac{\text {TP+TN}}{\text {TP+TN+FP+FN}}\end{align}\)       <수식 2>

재현율(Recall)은 실제 정답인 것들 중 예측 모델이 정답이라고 예측한 것의 비율을 뜻하고, 정밀도(Precision)는 예측 모델이 정답이라 예측한 것 중 실제 값이 정답인 것들의 비율을 의미한다.

\(\begin{align}\text {Recall} = \frac{ \text {TP}}{ \text {TP + FN}}\end{align}\)       <수식 3>

\(\begin{align}\text {Precision} = \frac{ \text {TP}}{ \text {TP + FP}}\end{align}\)       <수식 4>

F1-score(수식 5)는 재현율(수식 3)과 정밀도(수식 4)의 조화평균으로 데이터간의 불균형이 존재할 때 사용하는 평가지표이다. 공정에서 수집되는 베어링의 진동 신호 원시 데이터는 정상 신호가 비정상 신호에 비해 압도적으로 많은 양을 가지고 있기 때문에 데이터의 불균형 문제가 존재한다. 따라서 본 연구에서는 모델의 성능평가를 위해 정확도와 함께 F1-score를 사용한다.

\(\begin{align}\text {F1-Score} = 2{\times} \frac{ {\text {Precision}} \times {\text {Recall}}} { {\text {Precision} + {\text {Recall}}}}\end{align}\)       <수식 5>

4.3 실험 및 결과

본 실험에서는 SWT-SVD 전처리 알고리즘 구현을 위해 SWT를 사용하여 주파수 영역으로 주파수 변환을 진행한다. 주파수 변환 수행 후 주파수 성분을 가지는 데이터에서 유의미한 특징을 추출하기 위해 SVD를 수행한다. SVD는 행렬을 분해하여 차원 축소하는 방법을 통해 특징을 추출하는 알고리즘이므로 특징 추출이 잘 되었는지 재구성 오차를 구하여 확인하고자 한다. 재구성 오차는 원래 데이터와 특이값 분해를 사용하여 추출된 데이터 간의 차이를 나타내어 실제 데이터와 근사 데이터 간의 오차를 확인하고 얼마나 정확하게 데이터가 재구성 되었는지를 평가하는 지표로 쓰인다. 재구성 오차를 구하기 위해 사용된 함수는 평균 제곱 오차(MSE)이다.

SWT 수행 시, 저주파 영역에 해당하는 근사계수(AC)와 고주파 영역에 해당하는 상세계수(DC) 값이 각각 추출되므로 각각의 추출된 주파수 값을 SVD 알고리즘에 적용한다. 데이터의 특징은 수평(Horizontal) 가속도계에서 측정된 값과 수직(Vertical) 가속도계에서 측정된 값, 총 두 개이므로 두 특징에 대해서 SWT를 수행하고 SVD를 적용한 결과에 대한 재구성 오차는 표 5와 같다.

(표 5) SVD 결과에 대한 재구성 오차

(Table 5) Reconstruction Error for SVD Result

3장에서 언급하였듯이 제안하는 전처리 알고리즘에서 SVD 알고리즘을 수행하여 특징 추출을 진행하고, 차원의 수를 감소시킨다. 이때 컴포넌트 인자를 1로 설정하고, SWT를 수행한 이후 각각의 특징에서 도출된 상세계수, 근사계수마다 한 개의 재구성 특징을 추출한다. 컴포넌트값을 1로 설정한 것이 적합함을 확인하고자 1이 아닌 다른 값(2, 3)을 넣어 전처리를 진행하였고 이를 어노멀리 트랜스포머 예측 모델에 적용하여 성능을 확인한다. 이에대한 성능 비교 결과는 표 6와 같다.

(표 6) SVD 컴포넌트 인자 설정 성능 비교

(Table 6) Performance Comparison of SVD Component Parameter Settings

마지막으로 제안하는 SWT-SVD 전처리 알고리즘과 이를 적용한 어노멀리 트랜스포머 기반 베어링 이상탐지 모델의 성능을 입증하기 위해 기존의 전처리 방법들인 첨도기반 전처리, 푸리에변환, DWT, SWT 방법을 구현하고 어노멀리 트랜스포머 및 LSTM-AE 모델에 적용하여 비교 실험을 한다.

첨도 기반 전처리 방법은 먼저 0.1초 동안의 전체 베어링 진동 신호를 500Hz 주파수 대역으로 필터링하고, 스펙트럼 첨도를 계산한다. 이 계산된 첨도 값에 이동평균 기법을 적용하였다. 푸리에변환 전처리를 구현하기 위해서는 Numpy 라이브러리의 fft 함수를 활용한다. 주어진 데이터의 길이와 샘플링 간격을 기반으로 주파수 축을 생성하고 샘플링 간격은 데이터길이를 0.1로 나눈 값을 사용한다. DWT 전처리를 구현하기 위해 pywt 라이브러리를 사용하며, 다우베키스 웨이블릿(Daubechies wavelet)계열 중 db5 기저함수를 선택하고 레벨을 5로 설정한다. 마지막으로 SWT 전처리는 3장에서 설명한 것과 동일하게 SVD를 수행하기 전, SWT 수행과 동일한 조건으로 구현한다.

각 전처리 방법을 구현한 후 베어링 이상탐지 모델 구현을 위해 어노멀리 트랜스포머 모델 네트워크를 설계한다. 또한, 모델 간의 성능 비교를 위해 LSTM-AE 네트워크도 설계한다. 모델 구현을 위해 설계한 세부 파라미터는 표 7와 같다. 어노멀리 트랜스포머 네트워크를 사용한 베어링 이상탐지 모델 구현을 위해 학습 횟수(Epoch)은 10으로 설정했고 학습시간 단축 및 과적합 방지를 위해 조기종료(Early Stopping) 기법을 사용한다. LSTM-AE의 경우 학습횟수는 100으로 설정한다. 두 모델 모두 일괄처리량(Batch Size)는 32, 학습률(Learning Rate)는 1e-4로 설정하고, 최적화 알고리즘은 Adam을 사용한다. 또한, 손실함수(Loss Function)는 평균제곱오차(Mean Squared Error, MSE)를 사용한다.

(표 7) 모델 파라미터 세부사항

(Table 7) The Detailed Manifest of the Model Parameters

표 8은 각 전처리 방법과 이상탐지 모델을 구현하고 적용한 비교 실험 결과를 보여준다. 제안한 SWT-SVD 전처리 알고리즘은 기존 전처리 방법과 비교하여 어노멀리 트랜스포머 및 LSTM-AE 두 모델 모두에서 우수한 성능을 보임을 확인하였다.

(표 8) 데이터 전처리 및 이상탐지 모델 성능 비교

(Table 8) Performance Comparison of the Data Preprocessings and the Models

5. 결론 및 향후 연구

본 연구는 베어링 이상을 사전에 탐지하는 이상탐지 모델을 개발하고, 모델의 성능 향상을 위해 전처리 단계에서 SWT-SVD 전처리 알고리즘을 제안하고 구현하였다. 실험에 사용한 데이터 세트는 PHM-2012-Challenge-Dataset이며, 해당 데이터 세트를 활용하여 정상 웨이블릿 변환 및 SVD 방법을 적용하였고 이를 통해 주파수 성분을 분석하고 유의미한 특징을 추출하였다. 제안된 전처리 방법을 어노멀리 트랜스포머 모델 네트워크에 적용하여 베어링 이상탐지 모델을 개발하였으며, 실험 결과를 통해 0.98의 정확도와 0.97의 F1-Score를 보임으로써 제안한 전처리 방법이 베어링 이상탐지에 유용하게 활용될 수 있음을 확인하였다. 제안하는 전처리 방법을 적용한 베어링 이상탐지 모델의 우수성을 입증하기 위해 기존에 선행되었던 첨도기반의 전처리 방법과 푸리에변환, DWT, SWT 전처리 방법을 구현하여 어노멀리 트랜스포머 및 LSTM-AE 모델 네트워크에 적용했고 이들의 성능을 비교하였다. 어노멀리 트랜스포머 및 LSTM-AE 두 모델 네트워크 모두 전처리 방법들을 적용한 결과, 제안한 전처리 방법이 기존의 전처리 방법들 보다 높은 성능을 보임을 확인했다.

본 연구에서는 베어링 이상탐지 수행을 위해 어노멀리 트랜스포머 모델 네트워크를 사용하였고 성능 비교를 위해 LSTM-AE를 사용하였다. 향후 연구를 통해 베어링의 진동 신호 데이터에 적합한 다양한 시계열 이상탐지 모델과의 비교를 통해 모델의 성능을 분석하고, 향상시킬 수 있을 것이다. 또한, 실제 제조 환경에서는 실시간으로 입력되는 데이터에 대하여 빠른 대응을 필요로 하기 때문에 모델 최적화 연구를 수행하고자 한다.