• Title/Summary/Keyword: 실시간 데이터 분석

Search Result 2,581, Processing Time 0.059 seconds

Anomaly Intrusion Detection by Clustering Transactional Audit Streams in a Host Computer (사용자 로그 스트림 클러스터링에 의한 실시간 침입탐지 기법)

  • Park, Nam-Hun;Oh, Sang-Hyun;Lee, Won-Suk
    • 한국IT서비스학회:학술대회논문집
    • /
    • 2008.05a
    • /
    • pp.594-599
    • /
    • 2008
  • 침입탐지에 있어서 사용자 로그 분석은 중요한 주제로서, 기존의 연구들에서 클러스터링 기법들을 사용하여 저장된 사용자 로그들을 분석해왔다. 하지만, 이러한 방법은 고정된 사용자 패턴 분석에는 효율적이지만, 로그 스트림과 같이 무한히 생성되어 사용자 패턴이 변화하는 경우 변화하는 패턴을 분석할 수 없다. 본 연구에서는 무한히 생성되는 사용자 로그 스트림을 대상으로 실시간 침입탐지 방법을 제시한다. 사용자로그의 정보는 사용자 행동에 대한 특성값으로 표현되어, 이러한 특성값들에 대해 실시간 데이터 스트림 클러스터링을 수행하여 이들을 클러스터로 분류한다. 각 클러스터는 사용자의 정상로그에 대한 특성값을 반영하게 되며, 그 결과 과거 사용자 로그에 대한 저장없이 새로운 로그 스트림을 지속적으로 분석할 수 있다. 결과적으로 사용자의 비정상행동을 실시간으로 탐지할 수 있으며, 이를 실험을 통해 평가하였다.

  • PDF

Scalable Data Provisioning Scheme on Large-Scale Distributed Computing Environment (대규모 분산 컴퓨팅 환경에서 확장성을 고려한 실시간 데이터 공급 기법)

  • Kim, Byungs-Sang;Youn, Chan-Hyun
    • The KIPS Transactions:PartA
    • /
    • v.18A no.4
    • /
    • pp.123-128
    • /
    • 2011
  • As the global grid has grown in size, large-scale distributed data analysis schemes have gained momentum. Over the last few years, a number of methods have been introduced for allocating data intensive tasks across distributed and heterogeneous computing platforms. However, these approaches have a limited potential for scaling up computing nodes so that they can serve more tasks simultaneously. This paper tackles the scalability and communication delay for computing nodes. We propose a distributed data node for storing and allocating the data. This paper also provides data provisioning method based on the steady states for minimizing the communication delay between the data source and the computing nodes. The experimental results show that scalability and communication delay can be achieved in our system.

Development Methods of Database Connectivity for Data Distribution Service based on Database (데이터베이스 기반의 데이터 분배 서비스를 위한 데이터베이스 커넥티비티 개발 방법)

  • Son, Yun-Hee;Yim, Hyung-Jun;Kim, Chum-Su;Chang, Hye-Min;Choi, Hoon;Lee, Kyu-Chul
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2012.06b
    • /
    • pp.95-97
    • /
    • 2012
  • OMG(Object Management Group)의 데이터 분배 서비스(DDS: Data Distribution Service)는 발간(publish)/구독(subscribe) 모델에 기반하여 동일한 타입의 데이터를 실시간으로 주고 받는 데이터 중심의 분산 환경에서 많이 사용되는 통신 미들웨어 기술이다. 하지만 DDS는 실시간으로 발생하는 데이터에 대하여 일회성인 특징을 갖기 때문에 추후 데이터에 대한 분석, 검증 등을 위해 영속성을 제공할 필요성이 증대되고 있다. 이러한 추세를 반영하듯 RTI DDS, PrismTech Opensplice 등의 대표적인 DDS 시스템에서는 데이터베이스를 연동하기 위한 연구를 진행하고 있다. 실시간 통신 미들웨어인 DDS와 데이터베이스의 연동은 DBMS 애플리케이션이 일반적으로 데이터베이스를 사용하는 것뿐만 아니라 DDS의 시맨틱을 알지 못하더라도 데이터 중심의 발간/구독 모델을 유기적으로 활용할 수 있는 장점을 지닌다. 본 논문에서는 이를 위해 DDS 시스템인 DB-ReTiCom의 데이터베이스를 사용하기 위한 커넥티비티를 제안하고 사용자 친화적 인터페이스를 위한 변환 방법을 제시한다.

A Study on Real-Time Fault Monitoring Detection Method of Bearing Using the Infrared Thermography (적외선 열화상을 이용한 베어링의 실시간 고장 모니터링 검출기법에 관한 연구)

  • Kim, Ho-Jong;Hong, Dong-Pyo;Kim, Won-Tae
    • Journal of the Korean Society for Nondestructive Testing
    • /
    • v.33 no.4
    • /
    • pp.330-335
    • /
    • 2013
  • Since real-time monitoring system like a fault early detection has been very important, infrared thermography technique as a new diagnosis method was proposed. This study is focused on the damage detection and temperature characteristic analysis of ball bearing using the non-destructive infrared thermography method. In this paper, for the reliability assessment, infrared experimental data were compared with the frequency data of the existing. As results, the temperature characteristics of ball bearing were analyzed under various loading conditions. Finally it was confirmed that the infrared technique was useful for real-time detection of the bearing damages.

Comparisons of Ten Unsupervised Learning Models in Real time Clustering of Face Images (얼굴 데이터의 실시간 클러스터링을 위한 주요 비지도 학습 알고리즘 비교 연구)

  • Choi, Hee-jo;Chang, il-sik;Park, Goo-man
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2020.11a
    • /
    • pp.18-20
    • /
    • 2020
  • 본 연구에서는 고차원 데이터에 대한 차원축소 및 군집 분석과 같은 비지도 학습 알고리즘에 대해 알아보기 위해서 얼굴 이미지 데이터 셋을 사용한다. 얼굴 데이터 셋에 대하여 주요 비지도 학습 알고리즘을 이용하여 실시간으로 클러스터링하고, 그 성능을 비교한다. 비디오에서 추출된 영상 속의 7명의 인물에 대하여 Scikit-learning 라이브러리에서 제공하는 클러스터링 알고리즘과 더불어 주요 차원축소 알고리즘(Dimension Reduction Algorithm)을 사용하여 총 10개의 알고리즘에 대하여 분석한다. 또한, 클러스터링 성능 검사를 통해 알고리즘의 성능을 비교해보고, 이를 통하여 앞으로의 연구 방향에 대해 고찰한다.

  • PDF

A Design on a Streaming Big Data Processing System (스트리밍 빅데이터 처리 시스템 설계)

  • Kim, Sungsook;Kim, GyungTae;Park, Kiejin
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2015.10a
    • /
    • pp.99-101
    • /
    • 2015
  • 현재 다양한 센서 기기에서 쏟아지는 대용량의 정형/비정형의 스트림 데이터의 경우 기존의 단일 스트리밍 처리 시스템 만으로 처리하기에는 한계가 있다. 클러스터의 디스크가 아닌 메모리들을 사용하여 대용량 데이터 처리를 할 수 있는 Spark 는 분산 처리 임에도 불구하고 강력한 데이터 일관성과 실시간성을 확보할 수 있는 플랫폼이다. 본 연구에서는 대용량 스트림 데이터 분석 시 발생하는 메모리 공간 부족과 실시간 병렬 처리 문제를 해결하고자, 클러스터의 메모리를 이용하여 대용량 데이터의 분산 처리와 스트림 실시간 처리를 동시에 할 수 있도록 구성하였다. 실험을 통하여, 기존 배치 처리 방식과 제안 시스템의 성능 차이를 확인 할 수 있었다.

A Study on Adaptive Learning Model for Performance Improvement of Stream Analytics (실시간 데이터 분석의 성능개선을 위한 적응형 학습 모델 연구)

  • Ku, Jin-Hee
    • Journal of Convergence for Information Technology
    • /
    • v.8 no.1
    • /
    • pp.201-206
    • /
    • 2018
  • Recently, as technologies for realizing artificial intelligence have become more common, machine learning is widely used. Machine learning provides insight into collecting large amounts of data, batch processing, and taking final action, but the effects of the work are not immediately integrated into the learning process. In this paper proposed an adaptive learning model to improve the performance of real-time stream analysis as a big business issue. Adaptive learning generates the ensemble by adapting to the complexity of the data set, and the algorithm uses the data needed to determine the optimal data point to sample. In an experiment for six standard data sets, the adaptive learning model outperformed the simple machine learning model for classification at the learning time and accuracy. In particular, the support vector machine showed excellent performance at the end of all ensembles. Adaptive learning is expected to be applicable to a wide range of problems that need to be adaptively updated in the inference of changes in various parameters over time.

Performance Analysis of Real-Time Big Data Search Platform Based on High-Capacity Persistent Memory (대용량 영구 메모리 기반 실시간 빅데이터 검색 플랫폼 성능 분석)

  • Eunseo Lee;Dongchul Park
    • Journal of Platform Technology
    • /
    • v.11 no.4
    • /
    • pp.50-61
    • /
    • 2023
  • The advancement of various big data technologies has had a tremendous impact on many industries. Diverse big data research studies have been conducted to process and analyze massive data quickly. Under these circumstances, new emerging technologies such as high-capacity persistent memory (PMEM) and Compute Express Link (CXL) have lately attracted significant attention. However, little investigation into a big data "search" platform has been made. Moreover, most big data software platforms have been still optimized for traditional DRAM-based computing systems. This paper first evaluates the basic performance of Intel Optane PMEM, and then investigates both indexing and searching performance of Elasticsearch, a widely-known enterprise big data search platform, on the PMEM-based computing system to explore its effectiveness and possibility. Extensive and comprehensive experiments shows that the proposed Optane PMEM-based Elasticsearch achieves indexing and searching performance improvement by an average of 1.45 times and 3.2 times respectively compared to DRAM-based system. Consequently, this paper demonstrates the high I/O, high-capacity, and nonvolatile PMEM-based computing systems are very promising for big data search platforms.

  • PDF

Development of Eye Protection App using Realtime Eye Tracking and Distance Measurement Method (실시간 시선 추적과 거리 측정 기법을 활용한 눈 보호 앱 개발)

  • Lee, Hye-Ran;Lee, Jun Pyo
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2019.07a
    • /
    • pp.223-224
    • /
    • 2019
  • 본 논문에서는 카메라의 실시간 영상에서 얻을 수 있는 데이터를 수집 및 분석하여 일반인들에게 스마트폰의 실제 사용량, 최적화면 표현, 그리고 건조증 위험도의 정보를 제공하는 "i-eye" 응용 앱을 제안하여 눈 건강관리를 가능하게 한다. 제안하는 앱은 발전된 스마트 폰을 기반으로 동작되며 아이트래킹(eye-gaze tracking), 영상거리측정(image distance measurement), 눈 데이터분석(eye data analysis)의 3가지 핵심기술을 제안한다.

  • PDF

Integrated Operation System development for Optimization of Real Time Quality of Water and Monitoring (실시간 수질모형과 모니터링의 최적운영을 위한 연계 운영 시스템(RTMMS) 개발)

  • Kim, Yu-Jin;Jung, Seung-Kwon;Jeong, Se-Ung;Kim, Nam-Il
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2006.05a
    • /
    • pp.879-883
    • /
    • 2006
  • 본 연구는 현장에서 측정되는 수질데이터를 실시간 수집하여 데이터의 적절성을 모니터링하고 모형입력자료로써 신뢰성을 유지하도록 구성되는 시스템과 이를 2차원 수질 해석 모형인 CE-QUAL W2모형의 입력자료로 연계 활용함으로써 그 결과를 그래프 및 하천 변화 모의 동영상으로 표출하는 시스템을 개발하는데 그 목적이 있다. 수질 모형은 물 관련 모형가운데 특히 다량의 자료와 정확한 자료를 입력자료로 사용하며 그 결과 표출에 있어서도 전체적인 결과부터 세밀한 요소자료까지 결과자료가 필요하다. 본 연구에서 개발한 RTMMS(Real-time Turbidity Monitoring & Modeling System)는 현장 계측기로부터 수집되는 실시간 자료를 이용하여 데이터를 모니터링하고 CE-QUAL W2 모형을 이용하여 모델링을 수행한 후 결과를 그래프로 도출 할 수 있도록 하는 시스템이다. 특히 일반적인 어플리케이션의 GUI 환경에서 벗어나 일반 사용자들이 쉽게 프로그램을 사용할 수 있고 공간 활용도를 높이기 위하여 웹 형식의 GUI로 구성하였다. RTMMS는 기본 크기가 가로 800 픽셀, 세로 600 픽셀로 고정 사이즈이며, 주요 화면 구성으로는 좌측에 네 개의 항목이 있고 우측에는 실시간 모니터링 지점에 대한 유역도가 표시되어 사용자 편의환경을 제공하였다. 사용자는 해당 지점을 선택하여 주요 지점에 대한 정보를 분석할 수 있다. 또한 우측에는 선택된 지점에 대한 정보와 실시간 감시 내용을 조회할 수 있는 탭이 존재한다. 각각의 메뉴 항목은 주요지점의 모니터링 현황을 파악할 수 있는 기능, 수질모형의 입력자료로 변환하도록 하는 자료 동화 기능, CE-QUAL W2 모형을 수행하는 기능 및 결과자료를 분석하는 기능으로 구성되어 있으며, 각 기능을 선택하면 해당 화면으로 GUI가 전환된다. 따라서 다량의 측정자료의 신뢰성을 유지하고 이를 모형의 입력자료로 활용하는 일련의 과정을 시스템화하기 때문에 자료의 이상적 유지 관리가 이루어지며 복잡한 2차원 수질해석 모형을 수월하게 운영할 수 있는 시스템으로 개발하였다.

  • PDF