• Title/Summary/Keyword: 실시간 데이터 저장

Search Result 801, Processing Time 0.031 seconds

An Analysis of Utilization on Virtualized Computing Resource for Hadoop and HBase based Big Data Processing Applications (Hadoop과 HBase 기반의 빅 데이터 처리 응용을 위한 가상 컴퓨팅 자원 이용률 분석)

  • Cho, Nayun;Ku, Mino;Kim, Baul;Xuhua, Rui;Min, Dugki
    • Journal of Information Technology and Architecture
    • /
    • v.11 no.4
    • /
    • pp.449-462
    • /
    • 2014
  • In big data era, there are a number of considerable parts in processing systems for capturing, storing, and analyzing stored or streaming data. Unlike traditional data handling systems, a big data processing system needs to concern the characteristics (format, velocity, and volume) of being handled data in the system. In this situation, virtualized computing platform is an emerging platform for handling big data effectively, since virtualization technology enables to manage computing resources dynamically and elastically with minimum efforts. In this paper, we analyze resource utilization of virtualized computing resources to discover suitable deployment models in Apache Hadoop and HBase-based big data processing environment. Consequently, Task Tracker service shows high CPU utilization and high Disk I/O overhead during MapReduce phases. Moreover, HRegion service indicates high network resource consumption for transfer the traffic data from DataNode to Task Tracker. DataNode shows high memory resource utilization and Disk I/O overhead for reading stored data.

A Study on Concept and Services Framework of Geo-Spatial Big Data (공간 빅데이터의 개념 및 서비스 프레임워크 구상에 관한 연구)

  • Yu, Seon Cheol;Choi, Won Wook;Shin, Dong Bin;Ahn, Jong Wook
    • Spatial Information Research
    • /
    • v.22 no.6
    • /
    • pp.13-21
    • /
    • 2014
  • This study defines concept and service framework of Geo-Spatial Big Data(GSBD). The major concept of the GSBD is formulated based on the 7V characteristics: the general characteristics of big data with 3V(Volume, Variety, Velocity); Geo-spatial oriented characteristics with 4V(Veracity, Visualization, Versatile, Value). GSBD is the technology to extract meaningful information from Geo-spatial fusion data and support decision making responding with rapidly changing activities by analysing with almost realtime solutions while efficiently collecting, storing and managing structured, semi-structured or unstructured big data. The application area of the GSBD is segmented in terms of technical aspect(store, manage, analyze and service) and public/private area. The service framework for the GSBD composed of modules to manage, contain and monitor GSBD services is suggested. Such additional studies as building specific application service models and formulating service delivery strategies for the GSBD are required based on the services framework.

Development of Sensor Data Flow Detection and MQTT Simulation System to apply formalized Pattern Analysis (정형화된 패턴분석을 적용한 센서 데이터흐름 감지 및 MQTT 시뮬레이션 시스템 개발)

  • JongWon Cho;Hyeri Park;Fayzullayev mirjalol;Ryumduck Oh
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2024.01a
    • /
    • pp.131-134
    • /
    • 2024
  • 본 논문에서는 기존 철도 운영 및 관리시에 철도 주변환경으로 부터 발생하는 소음, 진동, 미세먼지 센서에서 다양한 실시간 스트림 데이터를 감지하고 정형화된된 데이터 패턴을 인식하고 분석할 수 있도록 데이터를 구성 및 저장하고 분석된 데이터를 표현할 수 있도록 시각화 지원을 위한 모니터링 시스템 플랫폼을 구현하였다. 데이터 전송을 위해 시리얼 통신 기법을 주로 적용하였으나, 센서와 디바이스의 증가로 인해 시리얼 통신의 한계가 나타났다. 따라서, 본 연구에서는 기존의 아두이노와 서버 간의 직접 통신 방식 대신 라즈베리파이를 도입하여 MQTT Broker(브로커)를 설치하고 통신을 진행하였다. 철도 데이터 모니터링 시스템 플랫폼은 NoSQL 데이터베이스인 MonGoDB와 데이터 시각화할 수 있는 Grafana를 이용하여 구축하였다.

  • PDF

The study of the evaluating equipment development for the surface of the road pavement (포장 도로면 평가 장비 개발에 관한 연구)

  • Kim, Seok-Won;Kim, Ho-Seong
    • Proceedings of the KIEE Conference
    • /
    • 2004.07c
    • /
    • pp.2011-2013
    • /
    • 2004
  • 본 논문은 그루빙(grooving),타이닝(tinning),텍스쳐(texture) 등의 포장 도로의 표면 상태를 고성능의 레이저 변위센서를 사용하여 정밀하게 측정하고, 측정한 표면 상태를 객관적으로 평가하는 장비 개발에 관한 논문이다. 본 논문에서는 실제 평가 장비 차량을 만들기에 앞서 전체 시스템을 설계하고, 실내에서 차량과 도로의 모사 장비를 만들어 실험하였다. 본 실험에서는 오실로스코프와 DAQ (Data Aquisition) 보드를 사용하였다. LabView로 선호처리 프로그래밍을 하여 컴퓨터 화면에 GUI 형태로 나타내었다. 측정 데이터는 컴퓨터의 저장 공간에 저장하여 후처리를 가능하게 하였다. 또한, 실제 평가 장비 차량에 장착하게 될, GPS(Global Positioning System) 시스템으로 부터 실시간으로 평가 장비 차량의 이동거리 데이터를 얻었다. 실험 결과 차량이 80km/h로 주행할 때 도로 표면 타이닝의 폭과 깊이가 평균 9.67% 오차를 보였으며, 이동거리는 0.03% 이내의 오차를 보여 만족할 만한 결과를 얻었다.

  • PDF

A Study on management and analysis of traffic accidents (교통사고자료 관리 및 분석 기법의 개선방안에 관한 고찰)

  • Yu, Ji-Yeon;Jeon, Hyeong-Seob;Lim, Sueng-Hyun;Cho, Gi-Sung
    • 한국공간정보시스템학회:학술대회논문집
    • /
    • 2005.05a
    • /
    • pp.401-406
    • /
    • 2005
  • 교통안전 선진국에서는 사고 자료의 수집, 저장, 공유와 관련된 도로교통사고 자료 관리 체계를 합리화하기 위해 부단히 노력하고 있으나, 우리나라에서는 이미 오래 전에 만들어진 도로교통사고 자료양식을 수정 없이 사용해오고 있으며, 정확한 교통사고 발생지점 및 교통사고 분석 자료를 체계적으로 관리하지 못하고 있어 아직 후진성을 면치 못하고 있는 것이 현실이다. 본 연구는 교통사고 자료를 지형공간정보체계(Geographic Information System : GIS) 기반으로 구축하여 기존에 텍스트 형태의 자료 수집이 아닌 PDA를 이용하여 실시간으로 사고 자료를 표준 양식에 맞게 변환하여 저장 및 사고 정보를 관리할 수 있으며, 공간데이터 특수성과 연계하여 사고원인에 대한 지리적 분석 데이터로 표출하는 통합 관리시스템 개발에 관한 연구를 수행하였다.

  • PDF

College Admissions Consultation Chatbot based on Text Similarity (텍스트 유사도 기반의 대학 입시 상담 챗봇)

  • Lee, Se-Hoon;Cha, Hyun-Suk;Jeon, Chan-Ho;Baek, Yeong-Tae
    • Proceedings of the Korean Society of Computer Information Conference
    • /
    • 2018.07a
    • /
    • pp.441-442
    • /
    • 2018
  • 본 논문에서는 입시상담을 위한 챗봇 시스템을 텍스트 유사도 기반으로 개발하였다. 텍스트를 인지하여 답변을 제공해 주는 방식이며 실시간을 요하는 데이터들은 크롤링한 데이터를 가공을 한 후 사용자에게 대답을 해주고 사용자가 답변에 얼마나 좋은 정보인지 체크하여 그에 맞는 답변을 내어 준다. 사용자의 텍스트를 인식하는 것은 텍스트 유사도를 이용하여 정확하게 인지하고 사용자의 질문과 답변을 서버 DB에 저장을 하여 비슷한 질문이 있을 경우 저장된 답변과 평점을 이용하여 답변을 제공한다.

  • PDF

A Study on the Limitedness and Regularity of Addressing Patterns in a Concurrent Input/Output Access with Different Orders (상이한 순서의 동시 입출력 동작시 주소변화패턴의 유한성 및 규칙성에 관한 연구)

  • Lee, Gunjoong;Ryoo, Kwangki
    • Annual Conference of KIPS
    • /
    • 2012.11a
    • /
    • pp.537-539
    • /
    • 2012
  • 영상신호처리와 같이 공간적 신호처리를 하는 실시간 신호처리시스템에서는 서로 다른 입출력 순서를 갖는 특정 크기의 블록 단위 신호처리가 요구된다. 다양한 영상압축코덱에 쓰이는 엔트로피 코딩을 위한 데이터 재정렬이 대표적인 예이다. 이 경우 동일 주소에 데이터를 읽고 쓰는 단일 버퍼링 방법이 저장 공간을 최소화 하는 최적의 방법이지만 상이하고 불규칙한 입출력 순서를 갖는 경우 이 방법을 적용할 경우 불규칙한 순서열이 이어지기 때문에 구현하기 어렵고 두 배의 저장 공간을 소모하는 이중 버퍼링 방법을 주로 사용한다. 본 논문에서는 불규칙한 순서열 변화를 보이는 임의의 상이한 입출력 순서를 갖는 동시 입출력 동작에서도 예측가능한 유한한 횟수 안에 규칙적인 반복성이 나타남을 입증하고 자원을 최소화하는 단일 버퍼링 방법이 적용될 수 있음을 보였다.

S-XML Transformation Method for Efficient Distribution of Spatial Information on u-GIS Environment (u-GIS 환경에서 효율적인 공간 정보 유통을 위한 S-XML 변환 기법)

  • Lee, Dong-Wook;Baek, Sung-Ha;Kim, Gyoung-Bae;Bae, Hae-Young
    • Journal of Korea Spatial Information System Society
    • /
    • v.11 no.1
    • /
    • pp.55-62
    • /
    • 2009
  • In u-GIS environment, we collect spatial data needed through sensor network and provide them with information real-time processed or stored. When information through Internet is requested on Web based applications, it is transmitted in XML. Especially, when requested information includes spatial data, GML, S-XML, and other document that can process spatial data are used. In this processing, real-time stream data processed in DSMS is transformed to S-XML document type and spatial information service based on web receive S-XML document through Internet. Because most of spatial application service use existing spatial DBMS as a storage system, The data used in S-XML and SDBMS needs transformation between themselves. In this paper, we propose S-XML a transformation method using caching of spatial data. The proposed method caches the spatial data part of S-XML to transform S-XML and relational spatial database for providing spatial data efficiently and it transforms cached data without additional transformation cost when a transformation between data in the same region is required. Through proposed method, we show that it reduced the cost of transformation between S-XML documents and spatial information services based on web to provide spatial information in u-GIS environment and increased the performance of query processing through performance evaluation.

  • PDF

모바일 클라우드에서의 빅데이터 분석 전략

  • Lee, Yeon-Hui;Park, Hye-Suk
    • Information and Communications Magazine
    • /
    • v.32 no.7
    • /
    • pp.57-62
    • /
    • 2015
  • 모바일 클라우드는 클라우드 컴퓨팅 방식을 이용하여 IT 자원을 모바일 서비스에 활용하는 기술로서 각광받고 있다. 모바일 클라우드는 특성상 정보가 한 곳으로 집중되고, 다양한 모바일 기기를 통한 접근이 가능하므로 이를 빠르게 처리할 수 있는 기술과 처리한 데이터를 구조화하여 저장하고 분석을 통해 새로운 가치를 부여하는 기술이 필요하다. 또한 모바일 단말의 특성상 모바일 사용자를 대변하는 매개로 표현될 수 있으므로, 모바일 디바이스를 통한 개인화된 서비스와 모바일 서비스에 소셜 기능이 통합되어 실시간 데이터-메시지 스트리밍의 처리와 사용자 데이터에 대한 동기화를 통한 접근성에 향상에 대한 요구가 높아졌다. 이러한 이유로 모바일 클라우드 데이터를 분석하기 위한 방편으로 빅데이터 기술을 활용하는 것이 일반적이다. 본고에서는 최근 모바일 클라우드의 정의와 모바일 클라우드에서의 빅데이터의 특징을 살펴보고, 분석을 위한 전략을 알아본다.

Design of Rule-based Alert Correlation Model for IDS (IDS를 위한 규칙 기반의 경보데이터 상관성 모델 설계)

  • Hong, Ji-Yeon;Um, Nam-Kyoung;Lee, Sang-Ho
    • Annual Conference of KIPS
    • /
    • 2003.11c
    • /
    • pp.1859-1862
    • /
    • 2003
  • 기존의 IDS는 침입 가능성이 있는 데이터에 대해 많은 양의 경보데이터를 발생시키고 이를 모두 로그의 형태로 저장한다. 이 때 대량의 로그 기록이 생성되는데, 이 대량의 로그가 기록된 데이터는 관리자가 실제로 위협적인 침입을 식별하고, 침입 행위에 신속하게 대응하는 것을 어렵게 한다. 따라서 이 논문에서는 IDS가 발생시킨 대량의 경보데이터를 규칙 기반 방법론을 적용하여 침입탐지에 필요한 데이터만 추출하여 로그에 기록함으로써 관리자가 IDS 관리를 효율적으로 할 수 있는 모델을 제시한다. 이 모델은 실시간으로 갱신되는 규칙에 의해 경보데이터 중 불필요한 것은 제거하고, 유사한 것은 통합함으로써 신속한 침입 탐지를 가능케 한다.

  • PDF