• 제목/요약/키워드: Compressed Data Management System

검색결과 39건 처리시간 0.027초

하이브리드 질의를 위한 데이터 스트림 저장 기술 (Data Stream Storing Techniques for Supporting Hybrid Query)

  • 신재진;유병섭;어상훈;이동욱;배해영
    • 한국멀티미디어학회논문지
    • /
    • 제10권11호
    • /
    • pp.1384-1397
    • /
    • 2007
  • 본 논문은 데이터 스트림의 하이브리드 질의를 위한 빠른 저장 방법을 제안한다. 빠르고 많은 입력을 가지는 데이터 스트림의 처리를 위해 DSMS(Data Stream Management System)란 새로운 시스템에 대한 연구가 활발히 진행되고 있다. 현재 입력되고 있는 데이터 스트림과 과거에 발생했던 데이터 스트림를 동시에 검색하는 하이브리드 질의를 위해서는 데이터 스트림이 디스크에 저장되어져야 한다. 그러나 데이터 스트림의 빠른 입력 속도와 메모리와 디스크 공간의 한계 때문에 저장된 데이터 스트림에 대한 질의보다는, 현재 입력되고 있는 데이터 스트림에 대한 질의에 대한 연구들이 주로 이루어졌다. 본 논문에서는 데이터 스트림의 입력을 받을 때 순환버퍼를 이용하여 메모리 이용률을 최대화하고 블록킹 없는 데이터 스트림의 입력을 가능하게 한다. 또한 최대한 많은 양의 데이터를 디스크에 저장하기 위하여 디스크에 있는 데이터를 압축한다. 실험을 통하여 제안되는 기술이 대량으로 입력되는 데이터 스트림을 빠르게 저장시킬 수 있다는 것을 보인다.

  • PDF

블록 단위 트랜잭션을 이용한 대용량 데이터의 실시간 저장관리기 (Real time Storage Manager to store very large datausing block transaction)

  • 백성하;이동욱;어상훈;정원일;김경배;오영환;배해영
    • 한국공간정보시스템학회 논문지
    • /
    • 제10권2호
    • /
    • pp.1-12
    • /
    • 2008
  • 초당 최소 5만 건에서 50만 건이 넘는 삽입트랜잭션이 발생하는 반도체 자동 생산 공정 시스템은 대량의 데이터를 실시간으로 저장하는 저장관리시스템을 필요로 한다. 대용량의 데이터를 빠르고 안정적으로 저장하기 위해서 많은 저장관리시스템이 연구되었다. 기존의 저장관리시스템은 대표적으로 전형적인 디스크 기반 DBMS가 있다. 그러나 디스크 기반 DBMS는 초당 50만 건의 삽입트랜잭션 처리는 매우 어렵다. 그래서 디스크 기반 DBMS의 성능을 향상시키기 위해 데이터를 디스크가 아닌 메인메모리를사용하는 메인메모리 DBMS가 등장하였다. 그러나 메인메모리 DBMS는 메인메모리 용량의 한계로 인해 대용량 데이터를 저장하는 것은 어렵다. 본 논문에서는 초당 5만 건 이상의 삽입트랜잭션을 지원하고 대용량 데이터를 저비용으로 저장하기 위해 블록단위의 삽입 트랜잭션을 사용한 저장관리시스템을 제안한다. 블록단위의 삽입 트랜잭션은 개별 튜플 단위의 로그기록 비용과 인덱스 생성비용을 블록단위로 변경시켜 비용을 크게 감소시킬 수 있다. 또한 제안시스템은 데이터를 압축 저장하여 저장 비용을 감소시킬 수 있다. 그러나 압축기법은 데이터의 필드정보가 유실되어 모든 데이터의 압축을 해제하는 비용이 발생한다. 이 문제를 해결하기 위해 제안시스템은 압축 시 압축되는 블록의 인덱스를 생성하여 데이터 검색 속도를 향상시켰다. 본 제안시스템은 반도체 공정에서 빠르게 발생하는 대용량 데이터를 고속으로 저장할 수 있고, 디스크 저 장비용을 감소시킬 수 있다.

  • PDF

상이점을 이용한 GeoContents의 효율적인 관리 방법 (Effective Management Method of the GeoContents using Differences)

  • 박선례;김재철;이규철
    • 한국공간정보시스템학회 논문지
    • /
    • 제11권4호
    • /
    • pp.65-73
    • /
    • 2009
  • 컴퓨터와 정보통신기술의 발전에 따라 디지털 콘텐츠의 생산과 네트워크를 통한 유통이 자유롭게 되었고 여러 분야에서 디지털 콘텐츠의 수요가 급증하여 콘텐츠 시장이 급성장하고 있으며 지리정보 데이터와 같은 대용량의 데이터를 저장하고 이를 효율적으로 관리할 수 있어야 한다. 본 논문에서는 이전 지리정보 데이터와 업데이트된 지리정보 데이터를 비교하여 그 둘 사이에 상이점들을 고압축 표현하고 효율적으로 관리하고자 한다. 업데이트된 지리정보 데이터 전체가 전송되는 것이 아니라 고압축된 상이점만 전송되기 때문에 네트워크 트래픽이 감소하고 대용량 GeoContents의 유통 및 온라인 서비스 시 다운로드 시간을 단축시킬 수 있다.

  • PDF

모바일 압축 데이터 관리 시스템(CDMS)를 위한 데이터 가용 크기 변경 기법 (Technique about Data Capacity Adaptation for the Mobile Compressed Data Management System)

  • 장진근;신영재;이정화;손진현
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2007년도 가을 학술발표논문집 Vol.34 No.2 (C)
    • /
    • pp.107-112
    • /
    • 2007
  • 휴대용 정보기기는 정보의 디지털화로 인해 많아지고 있는 디지털 정보를 처리 및 저장해야 되는 상황이 되었다. 따라서 휴대용 정보기기에서는 무수한 디지털 정보를 효과적으로 관리하기 위해 모바일 DBMS을 사용하게 되었고, 저장장치로는 플래시 메모리를 사용하고 있다. 플래시 메모리는 일반 디스크보다 고비용이기 때문에 데이터를 보다 효율적으로 저장하기 위하여 압축 데이터 관리 시스템(CDMS)과 같은 압축을 사용한 관리도 사용되고 있다. 하지만 압축을 사용하여 저장공간을 효율적으로 사용하기 위한 CDMS의 연구는 데이터베이스 파일 크기를 고정하여 관리하였다. 하지만 이것은 실제사용에 있어서는 실용적이지 못하다. 따라서 본 논문에서는 이러한 CDMS를 보완하여 데이터베이스 파일 크기를 동적으로 변환하는 기법을 제시한다.

  • PDF

MRI 영상의 PSNR 평가 (PSNR Appraisal of MRI Image)

  • 강광수;이준행
    • 한국방사선학회논문지
    • /
    • 제3권4호
    • /
    • pp.13-21
    • /
    • 2009
  • MRI System은 각종 여러 가지 Parameter들로 구성되어 있다. 그중 MRI 영상의 화질을 빼놓고 MRI를 논한다는 것은 어려운 일이다. 각종 Parameter들이 개발되고 발전되어오면서 MRI영상에서도 예전 System에서 보여지는 영상과는 비교 할 수 없을 정도의 고화질을 출력하고 있다. 그리고 방사선 영상 System이 고식적인 Film방식에서 digital방식으로 전환되어가고 있고 그에 따른 병원의 모든 시스템이 전산화가 되어가고 있다. 방사선 영상의 관리에 있어서 저장 이라는 부분이 아주 중요한 ��을 차지하고 있다. 그 방대한 자료를 Server에 저장하는 방법으로는 압축을 이용 하여 저장하는 방법을 사용하게 된다. 이 때 발생한 문제점은 원본 영상에 비해 압축시 영상의 화질 저하가 발생한다는 것이다. 의료 영상에서는 조그마한 화질저하도 오진의 우려가 있으므로 각별히 주의해야할 사항이다. 본 논문에서는 병원에서 진료중인 영상을 대상으로 각각의 파일 변환과 원본과의 비교, 원본 영상과 진료에 사용되어지는 모니터에서의 MRI 영상의 화질을 PSNR을 이용한 평가와 영상 평가방법에 의한 평가를 하였다. 실험결과 원본과 각종 영상 압축방법을 이용하여 압축한 영상을 비교 분석 하였는데 화질저하가 거의 나타나지 않았다. 하지만 원본영상을 display하는 모니터의 화질 에서 상당한 문제점이 드러났다. 판독용 모니터 와 의료용 모니터에서는 손색없는 고해상도의 영상을 출력해 냈는가 반면 일반 CRT, LCD 모니터에서는 각종 노이즈, 영상왜곡등 많은 문제점들이 나타났다.

  • PDF

Design and Implementation of Map Databases for Telematics and Car Navigation Systems using an Embedded DBMS

  • Joo, Yong-Jin;Kim, Jung-Yeop;Lee, Yong-Ik;Moon, Kyung-Ky;Park, Soo-Hong
    • Spatial Information Research
    • /
    • 제14권4호
    • /
    • pp.379-389
    • /
    • 2006
  • 현재 차량 항법 서비스를 위한 데이터는 물리적인 저장형식(PSF : Physical Storage Format)에 따라 설계되어 대용량의 GIS 원시 데이터를 작은 용량으로 압축하고 빠른 매체 접근이 가능하도록 변환된 서비스용 지도 포맷을 제공한다. 하지만, 파일 시스템 기반의 복잡한 구조는 데이터 생성과 관리를 어렵게 하고 시스템 간 상호 호환성이 결여되는 문제점을 가진다. 이러한 문제를 해결하기 위해 최근 대두되고 있는 차량용 항법 시스템에서는 견고한 데이터 관리, 데이터의 동기화, 그리고 실시간 데이터 처리의 필요성 때문에 데이터베이스 시스템으로 공간 데이터 관리의 기능을 접목하려고 한다. 따라서, 본 연구에서는 차량 항법 서비스를 위한 데이터의 저장과 빠른 검색을 지원하는 차량용 Embedded DBMS 모듈을 개발하였다. 이를 위해 압축 기법, Multi-Link, 공간 인덱스, 공간분할을 적용하여 대용량의 공간 데이터를 효율적인 관리와 접근이 용이하도록 하였다. 또한, 어플리케이션에서의 데이터 검색과 표현에 필요한 API 개발을 하였다. 결과적으로, 개발된 Embedded DBMS는 적은 용량과 빠른 검색 구조인 PSF의 장점을 그대로 유지하면서 안정적인 데이터의 관리에 적합한 구조를 지원한다. 향후 DBMS모듈에 동기화 기법을 적용한다면 데이터의 현시성이 중요한 차량항법용 데이터의 유지관리 측면에서 강력한 데이터 관리가 용이한 Embedded DBMS의 장점을 더욱 활용할 수 있을 것으로 기대된다.

  • PDF

안정적인 화상회의 시스템을 위한 알고리즘 (An Algorithm for Stable Video Conference System)

  • 이문구
    • 전자공학회논문지CI
    • /
    • 제42권2호
    • /
    • pp.11-20
    • /
    • 2005
  • 기존의 화상회의 시스템은 화상회의 참석자 수가 n으로 증가함에 따라 대역폭과 메모리가 n^2 요구된다. 그리고 또한, 음성데이터의 전송도 참석자 수가 증가하면 그에 따른 트래픽 증가와 참석자의 발언권에 대한 문제를 갖는다. 본 논문에서는 화상 데이터를 위한 서버 측 버퍼링 기법과 발언권자의 증가에 따른 트래픽 증가 등의 문제를 해결하기위한 침묵탐지기법을 이용한 원격화상회의 알고리즘을 제안한다. 화상 버퍼링 알고리즘은 서버에서 다른 클라이언트로 브로드 캐스팅하는 기법이 아니라, 클라이언트로부터 압축된 비디오데이터를 할당된 버퍼에 전송 받는 서버측 버퍼링 기법과 클라이언트에서 다른 참석자들의 비디오데이터를 자신의 대역폭과 네트워크전송속도에 맞게 얻어가는 클라이언트 인덱스처리방법을 이용한 알고리즘이다. 침묵탐지기법을 이용한 음성전송 알고리즘은 다수의 참석자 중에서 말하지 않는 것으로 탐지된 음성데이터는 서버로 전송하지 않도록 하는 방법이며 채널관리 알고리즘은 우선권이 있는 참석자에게 발언권을 할당하는 방법이다. 제안한 알고리즘을 이용한 원격 화상회의 시스템은 참석자의 수와 관계없이 제한된 메모리와 대역폭 그리고 네트워크전송속도에서 20프레임 이상, 평균 30ms의 안정적인 화상데이터와 음성데이터전송이 이루어졌다.

VoD 시스템에서 선반입 기법을 이용한 대화식 동작의 설계 (Design of Interactive Operations using Prefetching in VoD System)

  • 김순철
    • 한국산업정보학회논문지
    • /
    • 제15권2호
    • /
    • pp.31-39
    • /
    • 2010
  • VoD(Video-on-Demand) 시스템에서 다루는 데이터는 대용량이면서 실시간에 처리되어야 하는 연속 매체의 특성을 지니고 있다. 대용량의 데이터가 차지하는 저장 공간과 전송 대역폭을 줄이기 위해 사용되는 압축 기법과 데이터의 실시간 처리를 보장하기 위한 자원의 예약 기법은 모두 연속 매체를 처리하는데 있어 필수적이다. VoD 시스템에서는 사용자들에게 영화의 재생뿐만 아니라 고속 전진이나 고속 후진과 같은 대화식 동작도 함께 제공할 수 있어야 하는데 대화식 동작이 야기하는 데이터 요구량의 변화는 디스크 대역폭, 통신망 대역폭, 메모리와 같은 시스템 자원의 관리를 어렵게 한다. VoD 시스템의 경우 기 저장된 비디오 데이터를 처리하기 때문에 데이터 블록에 대한 선반입이 가능하다. 본 논문에서는 가변 비트율의 비디오 데이터를 처리하는 VoD 서버에서 서버의 버퍼를 이용하여 데이터 블록들을 선반입함으로써 대화식 동작을 지원할 수 있는 버퍼 관리 기법을 제안한다. 본 논문에서 제안한 버퍼 관리 기법은 모의실험 결과 수용 사용자 수에서 LRU 기법에 비해 약 34%의 성능 향상을 보였다.

A Fast Processing Algorithm for Lidar Data Compression Using Second Generation Wavelets

  • Pradhan B.;Sandeep K.;Mansor Shattri;Ramli Abdul Rahman;Mohamed Sharif Abdul Rashid B.
    • 대한원격탐사학회지
    • /
    • 제22권1호
    • /
    • pp.49-61
    • /
    • 2006
  • The lifting scheme has been found to be a flexible method for constructing scalar wavelets with desirable properties. In this paper, it is extended to the UDAR data compression. A newly developed data compression approach to approximate the UDAR surface with a series of non-overlapping triangles has been presented. Generally a Triangulated Irregular Networks (TIN) are the most common form of digital surface model that consists of elevation values with x, y coordinates that make up triangles. But over the years the TIN data representation has become an important research topic for many researchers due its large data size. Compression of TIN is needed for efficient management of large data and good surface visualization. This approach covers following steps: First, by using a Delaunay triangulation, an efficient algorithm is developed to generate TIN, which forms the terrain from an arbitrary set of data. A new interpolation wavelet filter for TIN has been applied in two steps, namely splitting and elevation. In the splitting step, a triangle has been divided into several sub-triangles and the elevation step has been used to 'modify' the point values (point coordinates for geometry) after the splitting. Then, this data set is compressed at the desired locations by using second generation wavelets. The quality of geographical surface representation after using proposed technique is compared with the original UDAR data. The results show that this method can be used for significant reduction of data set.

Efficient Compression Algorithm with Limited Resource for Continuous Surveillance

  • Yin, Ling;Liu, Chuanren;Lu, Xinjiang;Chen, Jiafeng;Liu, Caixing
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제10권11호
    • /
    • pp.5476-5496
    • /
    • 2016
  • Energy efficiency of resource-constrained wireless sensor networks is critical in applications such as real-time monitoring/surveillance. To improve the energy efficiency and reduce the energy consumption, the time series data can be compressed before transmission. However, most of the compression algorithms for time series data were developed only for single variate scenarios, while in practice there are often multiple sensor nodes in one application and the collected data is actually multivariate time series. In this paper, we propose to compress the time series data by the Lasso (least absolute shrinkage and selection operator) approximation. We show that, our approach can be naturally extended for compressing the multivariate time series data. Our extension is novel since it constructs an optimal projection of the original multivariates where the best energy efficiency can be realized. The two algorithms are named by ULasso (Univariate Lasso) and MLasso (Multivariate Lasso), for which we also provide practical guidance for parameter selection. Finally, empirically evaluation is implemented with several publicly available real-world data sets from different application domains. We quantify the algorithm performance by measuring the approximation error, compression ratio, and computation complexity. The results show that ULasso and MLasso are superior to or at least equivalent to compression performance of LTC and PLAMlis. Particularly, MLasso can significantly reduce the smooth multivariate time series data, without breaking the major trends and important changes of the sensor network system.