• 제목/요약/키워드: Novelty Detection

검색결과 42건 처리시간 0.019초

효과적인 문서 수준의 정보를 이용한 합성곱 신경망 기반의 신규성 탐지 (CNN-Based Novelty Detection with Effectively Incorporating Document-Level Information)

  • 조성웅;오흥선;임상훈;김선호
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제9권10호
    • /
    • pp.231-238
    • /
    • 2020
  • 웹 상에 수 많은 문서가 등장함에 따라 기존 문서와 내용이 중복되는 문서를 찾아서 제외함으로써 새로운 문서를 찾는 노력을 줄일 수 있어 문서 수준의 신규성 탐지(novelty detection)가 중요해졌다. 최근 연구에서는 합성곱 신경망(CNN) 구조 기반의 신규성 탐지 모델 구조가 제안되었고 상당한 성능 향상을 나타내였다. 본 논문에서는 기존의 CNN 기반의 모델에서 문서 수준의 정보가 제한적으로 사용되는 것을 관측하고 문서의 신규성을 결정할 때 문서 수준의 정보가 중요하므로 제한적인 사용이 문제가 된다고 가정하였다. 이에 대한 해결책으로, 본 논문에서는 합성곱 신경망 기반 신규성 탐지 모델 구조를 개선하여 문서 수준 정보를 효과적으로 사용하는 두 가지 방법을 제안한다. 본 논문에서 제안하는 방법은 대상(target) 문서와 증거로 주어진 출처(source) 문서 사이의 상대적(relative) 정보를 추출하여 신규성을 분류할 대상 문서의 특징 벡터를 구성하는 것에 초점을 맞춘다. 본 논문에서는 표준 벤치마크 데이터 셋인 TAP-DLND 1.0를 이용하여 여러 실험을 통해서 제안한 방법의 우수성을 보여준다.

다중 정상 하에서 단일 클래스 분류기법을 이용한 이상치 탐지 : TFT-LCD 공정 사례 (A Novelty Detection Algorithm for Multiple Normal Classes : Application to TFT-LCD Processes)

  • 주태우;김성범
    • 대한산업공학회지
    • /
    • 제39권2호
    • /
    • pp.82-89
    • /
    • 2013
  • Novelty detection (ND) is an effective technique that can be used to determine whether a future observation is normal or not. In the present study we propose a novelty detection algorithm that can handle a situation where the distributions of target (normal) observations are inhomogeneous. A simulation study and a real case with the TFT-LCD process demonstrated the effectiveness and usefulness of the proposed algorithm.

사이버 공격에 의한 시스템 이상상태 탐지 기법 (Detection of System Abnormal State by Cyber Attack)

  • 윤여정;정유진
    • 정보보호학회논문지
    • /
    • 제29권5호
    • /
    • pp.1027-1037
    • /
    • 2019
  • 기존의 사이버 공격 탐지 솔루션은 일반적으로 시그니처 기반 내지 악성행위 분석을 통한 방식의 탐지를 수행하므로, 알려지지 않은 방식에 의한 공격은 탐지하기 어렵다는 한계가 있다. 시스템에서는 상시로 발생하는 다양한 정보들이 시스템의 상태를 반영하고 있으므로, 이들 정보를 수집하여 정상상태를 학습하고 이상상태를 탐지하는 방식으로 알려지지 않은 공격을 탐지할 수 있다. 본 논문은 정상상태 학습 및 탐지에 활용하기 위하여 문자열을 그 순서와 의미를 보존하며 정량적 수치로 변환하는 머신러닝 임베딩(Embedding) 기법과 이상상태의 탐지를 위하여 다수의 정상데이터에서 소수의 비정상 데이터를 탐지하는 머신러닝 이상치 탐지(Novelty Detection) 기법을 이용하여 사이버 공격에 의한 시스템 이상상태를 탐지하는 방안을 제안한다.

Novelty detection을 이용한 BIM객체와 IFC 클래스 간 매핑의 무결성 검토에 관한 연구 (Applying Novelty Detection for Checking the Integrity of BIM Entity to IFC Class Associations)

  • 구본상;신병진
    • 한국건설관리학회논문집
    • /
    • 제18권6호
    • /
    • pp.78-88
    • /
    • 2017
  • 건설사업의 생애주기 단계별로 BIM의 활용도가 다양해지면서 이를 위한 전문화된 소프트웨어가 증가하고 있다. 이들 소프트웨어 간 BIM 정보 교환 시 상호호환성이 중요하며, 이때 국제표준 포맷인 IFC 데이터 모델을 채택하고 있다. 그러나 BIM 데이터를 IFC로 변환하기 위해서는 개별 객체에 IFC 클래스를 매핑해야 하는데, 현재까지 본 작업은 수동 작업으로 이뤄지고 있어, 매핑 상의 오류나 누락이 발생하게 된다. 본 연구에서는 BIM 객체 및 IFC 클래스 간 매핑의 무결성 검증을 위해 이상탐지분석 기법 중 하나인 Novelty detection을 적용하였다. 동일한 IFC 클래스의 객체들은 기하형상이 유사하다는 전제하에. 매핑이 잘못된 객체를 이상치로 판별하고자 하는 것이다. 3개의 BIM모델로부터 IFC 클래스별로 객체를 분류한 후 이 중 2개의 IFC 클래스(벽체 및 문)에 대해 one-class SVM을 학습시키고 검증하였다. 분석한 결과 총 160개의 이상치 중 141개를 정확하게 분류하여 이상치 판별능력이 높게 나왔다. Novelty detection 기법은 다중 경계면을 형성하고 사전적 학습이 가능하다는 점에서 높은 예측력을 발휘하여, 기존 방식이나 타 알고리즘보다 매핑 오류를 검증하는데 더 적합한 방법인 것으로 확인되었다.

자기연상 다층퍼셉트론의 이상 탐지 성질 분석 (Analysis of Novelty Detection Properties of Autoassociative MLP)

  • 이형주;황병호;조성준
    • 대한산업공학회지
    • /
    • 제28권2호
    • /
    • pp.147-161
    • /
    • 2002
  • In novelty detection, one attempts to discriminate abnormal patterns from normal ones. Novelty detection is quite difficult since, unlike usual two class classification problems, only normal patterns are available for training. Auto-Associative Multi-Layer Perceptron (AAMLP) has been shown to provide a good performance based upon the property that novel patterns usually have larger auto-associative errors. In this paper, we give a mathematical analysis of 2-layer AAMLP's output characteristics and empirical results of 2-layer and 4-layer AAMLPs. Various activation functions such as linear, saturated linear and sigmoid are compared. The 2-layer AAMLPs cannot identify non-linear boundaries while the 4-layer ones can. When the data distribution is multi-modal, then an ensemble of AAMLPs, each of which is trained with pre-clustered data is required. This paper contributes to understanding of AAMLP networks and leads to practical recommendations regarding its use.

Structural damage alarming and localization of cable-supported bridges using multi-novelty indices: a feasibility study

  • Ni, Yi-Qing;Wang, Junfang;Chan, Tommy H.T.
    • Structural Engineering and Mechanics
    • /
    • 제54권2호
    • /
    • pp.337-362
    • /
    • 2015
  • This paper presents a feasibility study on structural damage alarming and localization of long-span cable-supported bridges using multi-novelty indices formulated by monitoring-derived modal parameters. The proposed method which requires neither structural model nor damage model is applicable to structures of arbitrary complexity. With the intention to enhance the tolerance to measurement noise/uncertainty and the sensitivity to structural damage, an improved novelty index is formulated in terms of auto-associative neural networks (ANNs) where the output vector is designated to differ from the input vector while the training of the ANNs needs only the measured modal properties of the intact structure under in-service conditions. After validating the enhanced capability of the improved novelty index for structural damage alarming over the commonly configured novelty index, the performance of the improved novelty index for damage occurrence detection of large-scale bridges is examined through numerical simulation studies of the suspension Tsing Ma Bridge (TMB) and the cable-stayed Ting Kau Bridge (TKB) incurred with different types of structural damage. Then the improved novelty index is extended to formulate multi-novelty indices in terms of the measured modal frequencies and incomplete modeshape components for damage region identification. The capability of the formulated multi-novelty indices for damage region identification is also examined through numerical simulations of the TMB and TKB.

자기구성지도 기반 방법을 이용한 이상 탐지 (Novelty Detection using SOM-based Methods)

  • 이형주;조성준
    • 한국경영과학회:학술대회논문집
    • /
    • 한국경영과학회/대한산업공학회 2005년도 춘계공동학술대회 발표논문
    • /
    • pp.599-606
    • /
    • 2005
  • Novelty detection involves identifying novel patterns. They are not usually available during training. Even if they are, the data quantity imbalance leads to a low classification accuracy when a supervised learning scheme is employed. Thus, an unsupervised learning scheme is often employed ignoring those few novel patterns. In this paper, we propose two ways to make use of the few available novel patterns. First, a scheme to determine local thresholds for the Self Organizing Map boundary is proposed. Second, a modification of the Learning Vector Quantization learning rule is proposed so that allows one to keep codebook vectors as far from novel patterns as possible. Experimental results are quite promising.

  • PDF

자기연상 다층퍼셉트론의 이상 탐지 성능에 대한 실험 (Experiments on the Novelty Detection Capability of Auto-Associative Multi-Layer Perceptron)

  • 이형주;황병호;조성준
    • 한국경영과학회:학술대회논문집
    • /
    • 대한산업공학회/한국경영과학회 2002년도 춘계공동학술대회
    • /
    • pp.632-638
    • /
    • 2002
  • In novelty detection, one attempts to discriminate abnormal patterns from normal ones. Novelty detection is quite difficult since, unlike usual two class classification problems, only normal patterns are available for training. Auto-Associative Multi-Layer Perceptron (AAMLP) has been shown to provide a good performance based upon the property that novel patterns usually have larger auto-associative errors. In this paper, we give a mathematical analysis of 2-layer AAMLP's output characteristics and empirical results of 2-layer and 4-layer AAMLPs. Various activation functions such as linear, saturated linear and sigmoid are compared. The 2-layer AAMLPs cannot identify non-linear boundaries while the 4-layer ones can. When the data distribution is multi-modal, then an ensemble of AAMLPs, each of which is trained with pre-clustered data is required. This paper contributes to understanding of AAMLP networks and leads to practical recommendations regarding its use.

  • PDF

이상치 탐지 방법론을 활용한 반도체 가상 계측 결과의 신뢰도 추정 (Estimating the Reliability of Virtual Metrology Predictions in Semiconductor Manufacturing : A Novelty Detection-based Approach)

  • 강필성;김동일;이승경;도승용;조성준
    • 대한산업공학회지
    • /
    • 제38권1호
    • /
    • pp.46-56
    • /
    • 2012
  • The purpose of virtual metrology (VM) in semiconductor manufacturing is to predict every wafer's metrological values based on its process equipment data without an actual metrology. In this paper, we propose novelty detection-based reliability estimation models for VM in order to support flexible utilization of VM results. Because the proposed model can not only estimate the reliability of VM, but also identify suspicious process variables lowering the reliability, quality control actions can be taken selectively based on the reliance level and its causes. Based on the preliminary experimental results with actual semiconductor manufacturing process data, our models can successfully give a high reliance level to the wafers with small prediction errors and a low reliance level to the wafers with large prediction errors. In addition, our proposed model can give more detailed information by identifying the critical process variables and their relative impacts on the low reliability.

웹서버 로그 데이터의 이상상태 탐지 기법 (Novelty Detection on Web-server Log Dataset)

  • 이화성;김기수
    • 한국정보통신학회논문지
    • /
    • 제23권10호
    • /
    • pp.1311-1319
    • /
    • 2019
  • 현재 웹 환경은 정보 공유와 비즈니스 수행을 위해 보편적으로 사용되고 있는 영역으로 개인 정보 유출이나 시스템 장애 등을 목표로 하는 외부 해킹의 공격 타켓이 되고 있다. 기존의 사이버 공격 탐지 기술은 일반적으로 시그니처 기반 분석으로 공격 패턴의 변경이 발생할 경우 탐지가 어렵다는 한계가 있다. 특히 웹 취약점 기반 공격 중 삽입 공격은 가장 빈번히 발생하는 공격이고 다양한 변형 공격이 언제든 가능하다. 본 논문에서는 웹서버 로그에서 정상상태를 벗어나는 비정상 상태를 탐지하는 이상상태 탐지 기법을 제안한다. 제안된 방법은 웹서버 로그 내 문자열 항목을 머신러닝 기반 임베딩 기법으로 벡터로 치환한 후 다수의 정상 데이터와 상이한 경향성을 보이는 비정상 데이터를 탐지하는 머신러닝 기반 이상상태 탐지 기법이다.