• 제목/요약/키워드: 압축 데이터 관리 시스템

검색결과 99건 처리시간 0.026초

대용량 컬럼 저장소를 위한 교차 압축 이중화 기법 (Cross Compressed Replication Scheme for Large-Volume Column Storages)

  • 변시우
    • 한국산학기술학회논문지
    • /
    • 제14권5호
    • /
    • pp.2449-2456
    • /
    • 2013
  • 컬럼-기반 데이터베이스 저장소는 우수한 입출력 성능으로 대용량 데이터 분석 시스템을 위한 매우 진보적인 모델이다. 전통적인 데이터 저장소는 빠른 쓰기 연산을 위하여 한 레코드의 속성들을 하드 디스크에 연속적으로 배치되어 있는 가로-지향 저장 모델을 활용하였다. 하지만 검색이 대부분인 데이터웨어하우스 시스템을 위해서는 월등한 판독 성능 때문에 컬럼-지향 저장소가 더 적합한 모델이 되고 있다. 또한 최근에는 MLC 플래시 메모리를 사용한 SSD가 고속 데이터 분석 시스템을 위한 적합한 저장 매체로 인식되고 있다. 본 논문에서는 고속 컬럼-지향 데이터 저장소 모델을 도입하고, 고속 컬럼-지향 데이터웨어하우스 시스템을 위한 교차 압축 이중화를 활용하는 새로운 저장소 관리 기법을 제안한다. 본 저장소 관리 기법은 두 개의 MLC SSD에 기반하며, 압축과 비압축된 세그먼트의 교차 이중화를 통하여 높은 CPU 및 입출력 부하에서도 우수한 저장 성능과 안정성을 얻는다. 성능 평가 결과를 통하여 본 저장소 관리 기법이 기존 기법보다 컬럼 세그먼트 갱신 처리치 및 그 응답시간 측면에서 더 우수함을 확인하였다.

반도체 공정의 생산성 향상을 위한 실시간 대용량 데이터의 효율적인 저장 기법 (An Efficient Storing Scheme of Real-time Large Data to improve Semiconductor Process Productivities)

  • 정원일;김환구
    • 한국산학기술학회논문지
    • /
    • 제10권11호
    • /
    • pp.3207-3212
    • /
    • 2009
  • 반도체 산업이 발전함에 따라 생산 효율을 높이기 위해 무인 자동 생산 공정이 요구되고 있다. 이러한 무인자동화 생산 관리 시스템은 생산성 향상을 위해 생산 공정에서 발생하는 대량의 실시간 데이터 분석 및 관리를 필요로 한다. 따라서 실시간으로 발생하는 대용량 데이터를 저장하기 위한 저장 관리 시스템이 요구된다. 기존의 저장 관리 시스템으로 오라클, MY-SQL, MS-SQL 등의 디스크 기반 DBMS가 있다. 하지만 기존의 디스크 기반 DBMS는 반도체 장비로부터 실시간으로 발생하는 대용량 데이터 처리에 한계가 있다. 본 논문에서는 대용량 데이터를 저비용으로 실시간 저장하기 위해 블록 단위 삽입 트랜잭션을 이용한 압축-합병 저장 기법을 제안한다. 제안 기법은 블록 단위 트랜잭션을 이용하여 실시간 데이터를 빠르게 저장하며 데이터를 압축하고 압축된 데이터를 합병하여 저장하기 때문에 보다 적은 디스크 공간을 사용하여 저장할 수 있다. 따라서 반도체 공정에서 빠르게 발생하는 대용량 데이터를 기존 DBMS보다 빠르게 저장이 가능하고 저장 공간 비용을 감소시킨다.

모바일 DBMS를 위한 효율적인 압축 데이터 관리 시스템의 개발 (Development of the Efficient Compressed Data Management System for Embedded DBMS)

  • 신영재;황진호;김학수;이승미;손진현
    • 정보처리학회논문지D
    • /
    • 제15D권5호
    • /
    • pp.589-598
    • /
    • 2008
  • 최근 휴대용 정보기기 사용이 보편화되어지고, 정보의 디지털화로 인해 휴대용 정보기기에서 처리되어야 하는 정보가 무수히 많아지고 있다. 이로 인해 휴대용 정보기기에서는 정보들을 효과적으로 관리하기 위해 모바일 DBMS의 사용이 요구되고 있다. 또한 휴대용 정보기기에서 보편적으로 사용되는 저장장치는 NAND형 플래시 메모리로 단위 공간당 비용이 기존의 하드디스크에 비해 수십 배 가량 높아 저장 공간의 효율적인 관리가 요구되고 있다. 따라서 본 논문에서는 플래시메모리를 저장매체로 사용하는 모바일 DBMS에서 압축 기법을 사용한 효율적인 데이터 관리 시스템을 제안한다. 제안되는 압축 기반 시스템은 저장 공간의 절약을 가져오고, 데이터 입출력을 줄인다. 이러한 이점은 플래시 메모리의 수명을 연장시키는 효과 또한 기대할 수 있다.

클라이언트/서버 환경에서의 MPEG-2 비선형 편집기의 설계 및 구현 (Design and Implementation of an MPEG2 Non-linear Editor in Client/Server Environment)

  • 김소만;송기택;유지욱;이성환
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2000년도 봄 학술발표논문집 Vol.27 No.1 (B)
    • /
    • pp.541-543
    • /
    • 2000
  • 최근 들어, 통신 및 멀티미디어의 발달과 더불어 대용량 동영상 데이터의 효과적인 관리 및 처리 방법에 대한 연구가 활발히 진행되고 있는 추세이다. 따라서 본 논문에서는 동영상 압축표준인 MPEG-2 데이터의 효과적인 관리 및 처리를 위한 클라이언트/서버 환경에서의 비선형 편집 시스템을 구현하였다. 본 시스템은 압축 정보를 이용하여 최소한의 복호화 과정을 통해 장면전화 검출 및 색인을 수행하는 색인부의 DirectX를 기반으로 한 편집부로 크게 구성되어 있다. 본 논문에서는 압축 정보를 사용하여 빠르게 색인을 수행하고, DirectX 기술을 사용함으로써 다양한 편집 기능을 제공하며 사용자에게 직관적이고 간편한 인터페이스를 제공한다. 또한 클라이언트/서버 환경에서의 편집기능을 제공함으로써 고성능의 편집 서버를 통해 저사양의 클라이언트 컴퓨터에서도 소프트웨어적으로 MPEG-2 동영상을 효과적으로 편집할 수 있는 시스템을 구현하였다.

  • PDF

임베디드 시스템에서 가상 메모리 압축 시스템 설계 (Design of Virtual Memory Compression System on the Embedded System)

  • 정진우;장승주
    • 정보처리학회논문지A
    • /
    • 제9A권4호
    • /
    • pp.405-412
    • /
    • 2002
  • 임베디드 시스템은 일반 PC(Personal Computer)나 워크스테이션에 비해 느린 CPU와 작은 메모리 공간을 사용하고 있다. 따라서 임베디드 운영체제는 제한된 자원을 효과적으로 사용하도록 설계되어져야 한다. 그런데 임베디드 리눅스의 가상 메모리 관리 기법에서 페이지 폴트가 발생할 경우 스왑 디바이스로 페이지를 이동하는 과정에서 성능 저하가 발생한다. 본 논문에서는 가상 메모리 기법의 효율성을 놀이며 메모리 공간의 효율성을 향상시킬 수 있는 가상 메모리 압축 기법을 구현하였다. 가상 메모리 압축 기법은 임베디드 리눅스의 가상 메모리 관리 기법에서 스왑핑이 발생할 경우 스왑 디바이스로 이동하는 페이지들을 압축하여 이동시킴으로서 스왑핑에서 발생하는 성능저하를 감소시키며, 압축된 스왑 디바이스의 운영으로 메모리의 공간 효율성을 높인 수 있다. 또한 본 논문에서는 메모리 내의 소량의 데이터 압축에 적합한 알고리즘을 고안하여, 압축률의 효율성과 시스템 성능을 향상시키고자 하였다.

대용량 압축 데이터베이스를 위한 비대칭 색인 관리 기법 (Asymmetric Index Management Scheme for High-capacity Compressed Databases)

  • 변시우;장석우
    • 한국산학기술학회논문지
    • /
    • 제17권7호
    • /
    • pp.293-300
    • /
    • 2016
  • 전통적인 기존의 데이터베이스는 높은 성능을 얻기 위하여 느린 하드 디스크에서 관련된 레코드가 연속적으로 저장되어 있는 레코드 기반 모델을 활용한다. 그러나 읽기 집중적인 데이터 분석 시스템을 위해서는 컬럼 기반 압축 데이터베이스가 월등한 판독 성능으로 인하여 더 적합한 모델이 되고 있으며, 최근 플래시 메모리 SSD가 고속 분석용 시스템에 적합한 저장 매체로 선호되고 있다. 본 논문에서는 세로로 저장하는 컬럼 기반 스토리지 모델을 소개하고, 대용량 데이터웨어하우스 시스템을 위한 새로운 인덱스와 데이터 관리 기법을 제안한다. 제안된 인덱스 관리 기법은 두 개의 인덱스를 사용하는 비대칭 인덱스 이중화이며, 갱신용 마스터 인덱스와 판독용 컴팩트 인덱스를 활용하여 특히 읽기가 집중된 빅 데이터베이스에서 우수한 검색 성능을 얻는다. 그리고 본 데이터 관리 기법은 관련된 컬럼 압축과 두 개의 플래시 메모리 SSD를 이중화하여 높은 판독 성능과 처리 안정성에 도움을 준다. 고부하 워크로드 조건의 성능 평가 결과를 기반으로, 본 데이터 관리 기법이 기존 기법보다 검색 처리 및 응답 시간 측면에서 더 우수함을 보이고자 한다.

데이터 압축 관리 시스템의 데이터베이스 재구성 기법 (The Data Compaction Mechanism in Compressed Data Management System)

  • 이정화;황진호;이승미;손진현
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2007년도 가을 학술발표논문집 Vol.34 No.2 (C)
    • /
    • pp.113-118
    • /
    • 2007
  • 기존의 연구 과제에서 모바일 기기에 쓰이는 데이터 압축 관리 시스템인 CDMS(Compressed Data Management System)을 제안하였다. 그러나 CDMS의 DB파일에서 Free Page의 발생, 또는 데이터가 늘어났다가 줄어들었음에도 불구하고 실질적인 파일크기가 줄어들지 않는 문제점이 발견되었다. 따라서 데이터들을 Compact하게 배치하여 데이터베이스를 재구성한 후 사용되어지지 않는 공간을 반환하여 다른 모듈에서 활용할 수 있도록 하기 위하여 Compaction Mechanism을 제안하였다.

  • PDF

802.11b(Wi-Fi) 무선 프로토콜을 이용한 Windows CE 기반의 원격 감시 시스템 개발 (Development of the Windows CE based Security System using 802.11b WLAN Protocol)

  • 이동훈;임종우;노대영;오승준;안창범
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2003년도 하계종합학술대회 논문집 V
    • /
    • pp.2665-2668
    • /
    • 2003
  • 초고속 인터넷 망의 발전과 함께 네트워크를 통한 전체 시스템의 통합관리 및 감시가 가능해지고 있다. 본 논문에서는 Windows CE 기반의 무선 인터넷 서비스를 이용한 감시 시스템을 구현하였다. 각각의 웨이블릿 인코더를 가진 원격지 카메라를 이용하여 압축한 데이터를 802.11b(Wi-Fi) 무선 랜 망을 사용하여 전송하고, 전송된 9 채널의 영상 데이터를 각 채널별로 웨이블릿 디코더를 이용하여 압축을 풀고, 고속 데이터 버스를 이용하여 동시에 화면에 디스플레이 하였다. 이러한 시스템을 구현하기 위하여 Geode GXl 프로세서 기반의 Windows CE 서버시스템을 구현하였고, FPGA를 이용하여 9 개의 웨이블릿 디코더를 통하여 입력된 영상 데이터를 제어하였고, 실시간 디스플레이가 가능하도록 하였다. 그리고, Windows CE 기반의 PCI 디바이스를 제어하기 위한 디바이스 드라이버 및 응용 소프트웨어를 작성하였다.

  • PDF

엣지 기반 경량화 플랫폼을 위한 데이터 수집 시스템의 데이터베이스 비교 및 평가 (Comparison and Evaluation of Data Collection System Database for Edge-Based Lightweight Platform)

  • 조우진;임채영;구재회
    • Journal of Platform Technology
    • /
    • 제11권5호
    • /
    • pp.49-58
    • /
    • 2023
  • 에너지 관리 시스템 중 공장 에너지 관리 시스템은 제 3차 에너지 기본 계획과 전세계적 에너지 비용 증가, 환경·기후 문제등에 의해 급격히 성장하고 발전하고 있다. 하지만 이러한 공장 에너지 관리 시스템은 한정된 공간 등의 공장의 특성 상 에너지 관리 시스템의 데이터 수집을 위해 필수적인 데이터 수집 시스템의 구축이 공간적, 환경적, 에너지적으로 어려움을 지닌다. 본 논문은 이러한 공간, 환경, 에너지 관련 문제를 개선하기 위해 엣지 기반 경량화 플랫폼으로 데이터 수집 시스템을 구축하여 엣지 디바이스에서 데이터베이스 구동에 대한 비교 및 평가를 진행한다. 이를 평가하기 위하여 기존 실증 중에 있었던 공장의 특성을 활용하여 CDI Benchmark라는 평가 도구를 개발하여 평가를 진행한다. 평가 결과 MySQL과 같은 RDBMS는 대량 데이터 삽입 시 구동 문제가 발생하여 사용에 부적합 하며, InfluxDB의 경우 높은 압축률을 지닌 압축 알고리즘으로 인해 평가에 따라 MyRocks보다 최대 6배 작은 데이터베이스 크기를 지니지만, MyRocks의 경우 InfluxDB에 비해 최대 80배가량 적은 시간을 소모하는 것을 확인하였다.

  • PDF

빅데이터 플랫폼 기반 건물 에너지 통합 관리 시스템 설계 (Design of Building Energy Management System Using Big data Platform)

  • 김태형;정연쾌;이일우
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2016년도 춘계학술발표대회
    • /
    • pp.580-581
    • /
    • 2016
  • 국제적으로 지속적인 이슈가 되고 있는 에너지 절감에 대한 대책으로 다양한 에너지 절감 기술들이 연구 개발되고 있다. 특히 전체 에너지 사용량의 약 20%이상을 차지하는 건물(가정/상업/공공)부문에서는 에너지 진단 및 분석을 수행하기 위해 건물 에너지 관리 시스템(BEMS: Building Energy Management System)과 건물 자동화 시스템(BAS: Building Automation System) 그리고 다양한 환경정보들을 수집하여 활용한다. 하지만 기존 분석 방식은 결과의 신뢰성에 최소한의 영향을 주면서 데이터 관리 효율을 높이는 방법에 초점을 맞춰 연구가 진행되었으며, 이를 위해 기존에 수집된 데이터를 압축하거나 샘플링하는 사전 정제 과정을 거치게 되었다. 하지만 빅데이터 플랫폼을 활용하면 더 이상 신뢰성을 낮추면서까지 데이터를 정제할 필요가 없어지고, 수집되는 모든 데이터에 대한 다차원 분석을 빠르게 수행할 수 있게 된다. 따라서 본 논문에서는 하드웨어의 한계로 기존 건물에너지 진단 및 분석 시스템에서 제공하지 못했던 다양한 분석 및 진단 서비스들을 빠르고 정확하게 제공하도록 하는 빅데이터 플랫폼 기반 건물 에너지 통합 관리 시스템 설계에 대해 서술한다.