• 제목/요약/키워드: Anomaly prediction

검색결과 106건 처리시간 0.023초

MLOps workflow language and platform for time series data anomaly detection

  • Sohn, Jung-Mo;Kim, Su-Min
    • 한국컴퓨터정보학회논문지
    • /
    • 제27권11호
    • /
    • pp.19-27
    • /
    • 2022
  • 본 연구에서는 시계열 데이터 이상 탐지 수행을 위한 MLOps(Machine Learning Operations) 워크플로를 기술하고 관리할 수 있는 언어와 플랫폼을 제안한다. 시계열 데이터는 IoT 센서, 시스템 성능 지표, 사용자 접속량 등 많은 분야에서 수집되고 있다. 또한, 시스템 모니터링 및 이상 탐지 등 많은 응용 분야에 활용 중이다. 시계열 데이터의 예측 및 이상 탐지를 수행하기 위해서는 분석된 모델을 빠르고 유연하게 운영 환경에 적용할 수 있는 MLOps 플랫폼이 필요하다. 이에, 최근 데이터 분석에 많이 활용되고 있는 Python 기반의 AMML(AI/ML Modeling Language)을 개발하여 손쉽게 MLOps 워크플로를 구성하고 실행할 수 있도록 제안한다. 제안하는 AI MLOps 플랫폼은 AMML을 이용하여 다양한 데이터 소스(R-DB, NoSql DB, Log File 등)에서 시계열 데이터를 추출, 전처리 및 예측을 수행할 수 있다. AMML의 적용 가능성을 검증하기 위해, 변압기 오일 온도 예측 딥러닝 모델을 생성하는 워크플로를 AMML로 구성하고 학습이 정상적으로 수행됨을 확인하였다.

Tidal Front in the Main Tidal Channel of Kyunggi Bay, Eastern Yellow Sea

  • Lee, Heung-Jae;Lee, Seok;Cho, Cheol-Ho;Kim, Cheol-Ho
    • Journal of the korean society of oceanography
    • /
    • 제37권1호
    • /
    • pp.10-19
    • /
    • 2002
  • The detailed structure of a tidal front and its ebb-to flood variation in the main tidal channel of the Kyunggi Bay in the mid-west coast of Korea were investigated by analyzing CTD data and drifter trajectories collected in late July 1999. A typical tidal front was formed in water about 60 m deep at the mouth of the channel. Isotherms and isohalines in the upper layer above the seasonal pycnocline in the offshore stratified zone inclined upward to the sea surface to form a surface front, while those in the lower layer declined to the bottom front. The location of the front is consistent with $100 S^3/cm^2$ of the mixing index H/U defined by Simpson and Hunter (1974), where H is the water depth and U is the amplitude of tidal current. The potential energy anomaly in the frontal zone varied at an ebb-to flood tidal cycle, showing a minimum at slack water after ebb but a maximum at slack water after flood. This ebb-to flood variation in potential energy anomaly is not accounted for by the mixing index. We conclude that on- and offshore displacement of the water column by tidal advection is responsible for the ebb-to-flood variation in the frontal zone.

이상 데이터를 활용한 성과부진학생의 조기예측성능 향상 (Improvement of early prediction performance of under-performing students using anomaly data)

  • 황철현
    • 한국정보통신학회논문지
    • /
    • 제26권11호
    • /
    • pp.1608-1614
    • /
    • 2022
  • 최근 학생 수 감소로 인한 대학 간 경쟁이 심화되면서 성과부진학생을 조기에 예측하고, 중도이탈을 예방하기 위해 다양한 노력을 기울이는 것은 대학의 필수 업무로 인식되고 있다. 이를 위해서는 학생의 성과를 정밀하게 예측하는 우수한 성능의 모델이 필수적이다. 본 논문은 성과부진학생을 식별하기 위한 분류 예측 모델에서 이상 데이터를 제거하거나 증폭을 통해 예측 성능을 향상시키는 방법에 대해 제안한다. 기존 이상데이터 처리방법은 주로 데이터를 삭제하거나 무시하는데 집중되었지만 이 논문에서는 잡음과 변화지표를 구분하는 기준을 제시하고, 데이터를 삭제하거나 증폭함으로써 예측 모델의 성능을 높이는데 기여한다. 제안 방법의 검증을 위해 공개된 학습 성과 데이터를 활용한 실험에서 기존 방법에 비해 제안방법이 분류 성능을 향상시킬 수 있는 다수의 사례를 발견할 수 있었다.

빅데이터 기반의 IoT 이상 장애 탐지 시스템 설계 (Design of Anomaly Detection System Based on Big Data in Internet of Things)

  • 나성일;김형중
    • 디지털콘텐츠학회 논문지
    • /
    • 제19권2호
    • /
    • pp.377-383
    • /
    • 2018
  • 사물인터넷(IoT) 서비스는 스마트 환경이 발전하면서 다양한 데이터를 생산하고 있다. 이 데이터는 사용자의 상황을 판단하는 중요한 데이터로 사용된다. 그렇기 때문에 센서의 이상 상태를 실시간으로 모니터링하고 이상 데이터를 탐지하는 것이 중요하다. 하지만 데이터 구조와 프로토콜이 다양하기 때문에 표준화된 데이터 구조로 변환하는 과정이 필요하다. 그럼으로써 데이터의 품질을 보장하고 정확한 분석을 통해 서비스의 품질까지 좋아지는 효과를 기대할 수 있다. 본 논문은 수집된 센서의 이상탐지를 위해 빅데이터 기반의 이상탐지 시스템을 제안한다. 제안한 시스템은 이상탐지를 위해 데이터 표준화 전처리와 시계열 기반의 이상탐지가 우수한 SVM(Support Vector Machine) 모델을 적용하였다. 실험에서는 전처리와 전처리되지 않은 데이터를 각각 학습시키고 비교하였다. 그 결과, 전처리된 데이터는 이상 장애를 정확히 탐지하고 예측하였다.

Self-Attention 딥러닝 모델 기반 산업 제품의 이상 영역 분할 성능 분석 (Performance Analysis of Anomaly Area Segmentation in Industrial Products Based on Self-Attention Deep Learning Model)

  • 박창준;김남중;박준휘;이재현;곽정환
    • 한국컴퓨터정보학회:학술대회논문집
    • /
    • 한국컴퓨터정보학회 2024년도 제69차 동계학술대회논문집 32권1호
    • /
    • pp.45-46
    • /
    • 2024
  • 본 논문에서는 Self-Attention 기반 딥러닝 기법인 Dense Prediction Transformer(DPT) 모델을 MVTec Anomaly Detection(MVTec AD) 데이터셋에 적용하여 실제 산업 제품 이미지 내 이상 부분을 분할하는 연구를 진행하였다. DPT 모델의 적용을 통해 기존 Convolutional Neural Network(CNN) 기반 이상 탐지기법의 한계점인 지역적 Feature 추출 및 고정된 수용영역으로 인한 문제를 개선하였으며, 실제 산업 제품 데이터에서의 이상 분할 시 기존 주력 기법인 U-Net의 구조를 적용한 최고 성능의 모델보다 1.14%만큼의 성능 향상을 보임에 따라 Self-Attention 기반 딥러닝 기법의 적용이 산업 제품 이상 분할에 효과적임을 입증하였다.

  • PDF

시계열 모델 기반 트래픽 이상 징후 탐지 기법에 관한 연구 (A Study on Traffic Anomaly Detection Scheme Based Time Series Model)

  • 조강홍;이도훈
    • 한국통신학회논문지
    • /
    • 제33권5B호
    • /
    • pp.304-309
    • /
    • 2008
  • 본 논문에서는 시계열 예측 모델을 이용하여 웡 또는 바이러스 등과 같은 공격 트래픽에 의해 네트워크상에 발생할 수 있는 트래픽 이상 징후를 탐지할 수 있는 예측 모델 기반 트래픽 이상 징후 탐지 기법을 제안한다. 제안 기법은 비교적 정확한 예측모델로 알려져 있는 ARIMA 모델을 이용하였고 이상 징후 여부를 확률값으로 변화하여 확률 임계값에 따라 이상 징후를 탐지하도록 하여 그 성능을 극대화할 수 있도록 하였다. 이를 위해 제안 기법을 네트워크상에 발생시킨 웜과 같은 비정상 공격 트래픽을 포함한 전체 트래픽과 웹 트래픽에 적용하여 트래픽의 이상 징후를 신뢰성 있는 수준에서 탐지함을 보여주었다. 이 기법을 네트워크 기반의 침입탐지시스템에 적용할 강제 큰 효과 가져올 수 있을 것이다.

Analysis of detected anomalies in VOC reduction facilities using deep learning

  • Min-Ji Son;Myung Ho Kim
    • 한국컴퓨터정보학회논문지
    • /
    • 제28권4호
    • /
    • pp.13-20
    • /
    • 2023
  • 본 논문에서는 데이터의 이상을 탐지하고 예측하는 모델을 통해 VOC 저감 설비에서 실측한 데이터를 분석했다. 이상 탐지 분야에서 안정적인 성능을 보이는 USAD 모델을 이용하여 실시간 데이터의 이상을 탐지하고 이상 원인이 되는 센서를 탐색한다. 또한 자기 회귀 모델을 통해 미래의 이상치를 예측하여 이상이 발생할 시점을 예측하고 경고하는 방법을 제안한다. 실험은 VOC 저감 설비에서 실측한 데이터를 이용하여 시스템의 이상을 탐지할 수 있는지 검증하는 실험을 진행했으며 이상 탐지 실험 결과는 정밀도, 재현율, F1-점수가 각각 98.54%, 89.08%, 93.57%로 높은 성능의 탐지율을 보였다. 센서 별 학습된 모델의 성능은 8개 센서의 정밀도, 재현율, F1-점수를 평균한 결과 각각 99.64%, 99.37%, 99.63%로 높은 성능의 탐지율을 보였다. 또한, 센서 별 탐지 실험에 대한 타당성을 확인하기 위해 구한 해밍 손실은 0.0058로 안정적인 성능을 보였다. 그리고 이상 예측 실험 결과는 평균절대오차 0.0902로 안정적인 성능을 보였다.

Machine Learning-Based Transactions Anomaly Prediction for Enhanced IoT Blockchain Network Security and Performance

  • Nor Fadzilah Abdullah;Ammar Riadh Kairaldeen;Asma Abu-Samah;Rosdiadee Nordin
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제18권7호
    • /
    • pp.1986-2009
    • /
    • 2024
  • The integration of blockchain technology with the rapid growth of Internet of Things (IoT) devices has enabled secure and decentralised data exchange. However, security vulnerabilities and performance limitations remain significant challenges in IoT blockchain networks. This work proposes a novel approach that combines transaction representation and machine learning techniques to address these challenges. Various clustering techniques, including k-means, DBSCAN, Gaussian Mixture Models (GMM), and Hierarchical clustering, were employed to effectively group unlabelled transaction data based on their intrinsic characteristics. Anomaly transaction prediction models based on classifiers were then developed using the labelled data. Performance metrics such as accuracy, precision, recall, and F1-measure were used to identify the minority class representing specious transactions or security threats. The classifiers were also evaluated on their performance using balanced and unbalanced data. Compared to unbalanced data, balanced data resulted in an overall average improvement of approximately 15.85% in accuracy, 88.76% in precision, 60% in recall, and 74.36% in F1-score. This demonstrates the effectiveness of each classifier as a robust classifier with consistently better predictive performance across various evaluation metrics. Moreover, the k-means and GMM clustering techniques outperformed other techniques in identifying security threats, underscoring the importance of appropriate feature selection and clustering methods. The findings have practical implications for reinforcing security and efficiency in real-world IoT blockchain networks, paving the way for future investigations and advancements.

Cointegration based modeling and anomaly detection approaches using monitoring data of a suspension bridge

  • Ziyuan Fan;Qiao Huang;Yuan Ren;Qiaowei Ye;Weijie Chang;Yichao Wang
    • Smart Structures and Systems
    • /
    • 제31권2호
    • /
    • pp.183-197
    • /
    • 2023
  • For long-span bridges with a structural health monitoring (SHM) system, environmental temperature-driven responses are proved to be a main component in measurements. However, anomalous structural behavior may be hidden incomplicated recorded data. In order to receive reliable assessment of structural performance, it is important to study therelationship between temperature and monitoring data. This paper presents an application of the cointegration based methodology to detect anomalies that may be masked by temperature effects and then forecast the temperature-induced deflection (TID) of long-span suspension bridges. Firstly, temperature effects on girder deflection are analyzed with fieldmeasured data of a suspension bridge. Subsequently, the cointegration testing procedure is conducted. A threshold-based anomaly detection framework that eliminates the influence of environmental temperature is also proposed. The cointegrated residual series is extracted as the index to monitor anomaly events in bridges. Then, wavelet separation method is used to obtain TIDs from recorded data. Combining cointegration theory with autoregressive moving average (ARMA) model, TIDs for longspan bridges are modeled and forecasted. Finally, in-situ measurements of Xihoumen Bridge are adopted as an example to demonstrate the effectiveness of the cointegration based approach. In conclusion, the proposed method is practical for actual structures which ensures the efficient management and maintenance based on monitoring data.

Region and Global-Specific PatchCore based Anomaly Detection from Chest X-ray Images

  • Hyunbin Kim;Junchul Chun
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제18권8호
    • /
    • pp.2298-2315
    • /
    • 2024
  • This paper introduces a method aimed at diagnosing the presence or absence of lesions by detecting anomalies in Chest X-ray images. The proposed approach is based on the PatchCore anomaly detection method, which extracts a feature vector containing location information of an image patch from normal image data and calculates the anomaly distance from the normal vector. However, applying PatchCore directly to medical image processing presents challenges due to the possibility of diseases occurring only in specific organs and the presence of image noise unrelated to lesions. In this study, we present an image alignment method that utilizes affine transformation parameter prediction to standardize already captured X-ray images into a specific composition. Additionally, we introduce a region-specific abnormality detection method that requires affine-transformed chest X-ray images. Furthermore, we propose a method to enhance application efficiency and performance through feature map hard masking. The experimental results demonstrate that our proposed approach achieved a maximum AUROC (Area Under the Receiver Operating Characteristic) of 0.774. Compared to a previous study conducted on the same dataset, our method shows a 6.9% higher performance and improved accuracy.