• Title/Summary/Keyword: 대용량 로딩

Search Result 14, Processing Time 0.029 seconds

Analysis and Evaluation of DBMS Bulk Data Loading Through Multi-tiered Architecture for Heterogeneous Systems (이기종 시스템에서 다층 구조를 통한 DBMS 대용량 데이터 로딩의 분석 및 평가)

  • Tan, Hee-Yuan;Lim, Hyo-Taek
    • Journal of the Korea Institute of Information and Communication Engineering
    • /
    • v.14 no.1
    • /
    • pp.167-176
    • /
    • 2010
  • Managing the growing number of data generated through various processes requires the aid of Database Management System (DBMS) to efficiently handle the huge amount of data. These data can be inserted into database m real time or in batch, that come from multiple sources, including those that are coming from inside and outside of a network. The insertion of large amount of data is commonly done through specific bulk loading or insertion function supplied by each individual DBMS. In this paper, we analyze and evaluate on handling data bulk loading for heterogeneous systems that is organised as multi-tiered architecture and compare the result of DBMS bulk loader against program insertion from a software development perspective. We propose a hybrid solution using staging database that can be easily deployed for enhancing bulk loading performance compared to insertion by application.

A Pipelined Loading Technique for Hiding the Loading Time in a Hierarchical Multimedia Storage Server Based on DVD Jukeboxes (DVD 쥬크박스를 기반으로 한 계층적 멀티미디어 저장 서버에서 교환시간 은폐를 위한 파이프라인 로딩 기법)

  • Choi, Hwang-Kyu
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2000.04a
    • /
    • pp.248-253
    • /
    • 2000
  • 대용량의 연속 매체(continuous media)를 서비스하기 위한 멀티미디어 저장 서버는 실시간 검색과 대용량의 저장 장치 요구를 만족해야 한다. 그러나 기존에 연구되고 있는 디스크 배열(disk array)을 이용한 저장 서버는 성능 면에서 멀티미디어 응용에 바람직한 면이 있지만, 대규모 서버를 위한 저장 장치 전체를 디스크로 구성하는 것은 비용 면에서 비현실적일 뿐만 아니라 저장 용량과 대역폭에도 한계가 있다. 따라서 본 논문은 저가의 대용량 DVD-ROM을 사용한 계층적 저장 서버에서 파이프라인 로딩 기법을 제안한다. 제안된 기법은 시뮬레이션 성능분석을 통하여 파이프라인 상황하최대 허용 스트림 수가 크게 증가될 수 있음을 보인다.

  • PDF

Fast Hilbert R-tree Bulk-loading Scheme using GPGPU (GPGPU를 이용한 Hilbert R-tree 벌크로딩 고속화 기법)

  • Yang, Sidong;Choi, Wonik
    • Journal of KIISE
    • /
    • v.41 no.10
    • /
    • pp.792-798
    • /
    • 2014
  • In spatial databases, R-tree is one of the most widely used indexing structures and many variants have been proposed for its performance improvement. Among these variants, Hilbert R-tree is a representative method using Hilbert curve to process large amounts of data without high cost split techniques to construct the R-tree. This Hilbert R-tree, however, is hardly applicable to large-scale applications in practice mainly due to high pre-processing costs and slow bulk-load time. To overcome the limitations of Hilbert R-tree, we propose a novel approach for parallelizing Hilbert mapping and thus accelerating bulk-loading of Hilbert R-tree on GPU memory. Hilbert R-tree based on GPU improves bulk-loading performance by applying the inversed-cell method and exploiting parallelism for packing the R-tree structure. Our experimental results show that the proposed scheme is up to 45 times faster compared to the traditional CPU-based bulk-loading schemes.

A Study about Performance of Sum-Product Decoder Considering Adaptive Bit-Loading in LDPC Coded OFDM Systems (LDPC Coded OFDM 시스템에서 적응형 비트 로딩을 고려한 Sum-Product 복호기 성능에 관한 연구)

  • Oh, Hui-Myoung;Kim, Young-Sun;Lee, Jae-Jo
    • Proceedings of the KIEE Conference
    • /
    • 2006.07d
    • /
    • pp.2027-2028
    • /
    • 2006
  • 추정된 채널 정보를 바탕으로 적용하는 적응형 비트 로딩 방식은, 전력선 통신 시스템의 고속화 및 대용량 데이터 전송을 위해 최근 대두되고 있는 LDPC(Low Density Parity Check) coded OFDM 시스템에 대해, 한정된 주파수 대역과 신호 전력의 효율적 사용을 제공한다. 그러나 적응형 비트로딩 방식은 한정된 수의 일정 SNR(신호대 잡음 전력비) 구간에 대한 mapping 방식으로 적용되기 때문에 송수신 과정에서 추정된 채널 정보를 이용하는 sum-product 복호기가 채널 변화에 민감하게 반응하지 못하는 상황이 발생하며, 결국 송신단에서 채널 추정 결과를 바탕으로 선택된 SNR 범위에 대해서는 실제 수신되는 신호에 대한 SNR과의 차이가 존재하고 시스템의 성능은 그 만큼의 성능 열하로 나타나게 된다. 본 논문에서는 이러한 성능 열하 정도를 시뮬레이션을 통해 확인하였다.

  • PDF

Data Offloading Techniques in 3GPP (3GPP 데이터 오프로딩 기술)

  • Choi, S.G.;Ryu, B.H.;Lee, C.Y.;Kim, E.B.;Na, J.H.
    • Electronics and Telecommunications Trends
    • /
    • v.30 no.4
    • /
    • pp.140-150
    • /
    • 2015
  • 모바일 트래픽 증대는 향후 급격히 증가할 것으로 예측되며 LTE에서 AII-IP기반의 고속 대용량 데이터처리는 망의 부하증가를 의미한다. 비디오 컨퍼런싱, 온라인 음악, 게임, 영화 스트리밍, 네트워크 브라우징, 블로깅 등 현재 온라인 상에서 급격하게 사용되고 있는 새로운 애플리케이션들은 높은 대역폭(Bandwidth)과 고속용량이 필요하고 망 운용자들은 대역폭과 네트워크 용량 한계점을 줄이기 위한 해결책에 관심을 갖게 되었다. 이를 위해 3GPP에서는 데이터 오프로딩(Data Offloading) 기술을 정의하였으며 이는 펨토셀과 non-3GPF액서스 망 등과 정합하는 기술을 제공하였다. 본고에서는 망의 부하를 줄이기 위한 이들 오프로딩 기술에 대한 요구사항, 구조 및 구현 시 고려해야 하는 주요 이슈들에 대해서 살펴본다.

  • PDF

Performance Comparison of Databases for Store and Search of High Speed Network Flows (고속네트워크 트래픽 저장 및 검색을 위한 데이터베이스 성능 비교)

  • Park, Hyun-Wook;Choi, Sunoh;Kim, Jong-Hyun;Seo, Dong-Il;Kim, Ikkyun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2015.10a
    • /
    • pp.1152-1155
    • /
    • 2015
  • 네트워크상의 사이버 공격을 막고 원인분석 및 공격지를 찾기 위하여, 네트워크패킷 캡쳐 및 플로우 데이터를 수집 저장하고, 수집된 정보를 고속으로 검색하여 분석하는 것을 필요로 한다. 인터넷의 발달과 네트워크를 이용하는 기기들이 많아짐에 따라 네트워크상에는 1초에 수백만 개의 네트워크 패킷이 이동하고 있다. 이러한 대용량 네트워크 패킷을 고속으로 저장하고 검색하기 위하여, 대용량 저장 및 검색에 가장 적합한 데이터베이스를 이용하는 것이 중요하다. 대용량 네트워크 데이터의 저장에 가장 최적인 데이터베이스를 찾기 위해 이 논문에서는 관계형 데이터베이스(MySQL)와 컬럼기반 데이터 베이스(InfiniFlux), 그리고 Bitmap Index 기반 저장구조(FastBit)를 사용하여 로딩속도와 검색 속도, 그리고 각각의 디스크 사용량을 비교하였다.

A Pipelined Loading Mechanism for a Hierarchical VOD Server Based on DVD Jukebox (DVD 쥬크박스 기반의 계층적 VOD 서버 구성을 위한 파이프라인 로딩 기법)

  • 최황규
    • Journal of the Korea Computer Industry Society
    • /
    • v.3 no.3
    • /
    • pp.391-406
    • /
    • 2002
  • In order to realize a practical VOD system, it is necessary for a high-capacity and cost-effective hierarchical VOD server based on tertiary storages such as DVD jukebox. In such a system, it is possible to transfer multiple streams to users by alternatively swapping DVDs using the fixed number of drives. But it takes a long time for loading DVD to a drive. In this paper, we propose a primitive pipelined loading mechanism for hiding the loading time to swap DVDs in a hierarchical VOD server based on DVD jukebox. We also propose a enhanced pipelined loading mechanism for increasing the maximum admittable streams with the fixed number of drives. The enhanced mechanism caches the initial segment of each stream on a disk storage allowing faster data transfer. The performance analysis shows that the proposed mechanisms can admit the maximum allowed stream capacity under the fixed number of disk drives.

  • PDF

High-Performance Loading Method for Historical Spatial Query Processing in Data Stream System (데이터 스트림 시스템에서 과거 공간질의 처리를 위한 고속 로딩 기법)

  • Jae-Wan Shin;Sung-Ha Baek;Dong-Wook Lee;Soong-Sun Shin;Kyung-Bae Kim;Hae-Young Bae
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2008.11a
    • /
    • pp.397-400
    • /
    • 2008
  • 무한히 발생되는 실시간 데이터와 디스크에 저장된 히스토리컬 데이터를 동시에 처리하는 하이브리드 질의에 관한 연구가 활발히 이루어지고 있다. 하이브리드 질의는 디스크에 저장된 대용량의 공간 데이터 처리를 위해 빠른 디스크 입/출력을 요구한다. 이러한 데이터를 처리하기 위해 인덱스, 데이터 축소 기법등이 연구되었다. 데이터의 빠른 검색을 위한 인덱스 기법은 디스크에 분산 저장된 데이터에 대한 탐색 비용과 입/출력 비용을 줄이지 못한다. 또한, 샘플링을 통해 디스크 입/출력 시간 비용을 줄이는 데이터 축소 기법은 데이터의 정확성을 떨어뜨려 정확성을 요구하는 하이브리드 질의에서는 이용하기가 어렵다. 이논문에서는 디스크 입/출력 시간과 디스크 탐색 시간 비용을 줄이고, 정확성을 보장하는 과거 공간질의 처리를 위한 고속로딩 기법을 제아난다. 제안기법은 공간을 그리드 형태로 나누고 인접한 공간 데이터를 함께 관리함으로써 디스크 입/출력 비용을 줄 일 수 있다. 또한, 공간적으로 인접한 데이터를 물리적으로 인접한 곳에 저장하여 디스크 탐색시간 비용을 줄일 수 있다. 이렇게 저장된 데이터는 손실 없이 모두 저장되며, 정확성 또는 보장할 수 있다.

Scalable RDFS Reasoning using Logic Programming Approach in a Single Machine (단일머신 환경에서의 논리적 프로그래밍 방식 기반 대용량 RDFS 추론 기법)

  • Jagvaral, Batselem;Kim, Jemin;Lee, Wan-Gon;Park, Young-Tack
    • Journal of KIISE
    • /
    • v.41 no.10
    • /
    • pp.762-773
    • /
    • 2014
  • As the web of data is increasingly producing large RDFS datasets, it becomes essential in building scalable reasoning engines over large triples. There have been many researches used expensive distributed framework, such as Hadoop, to reason over large RDFS triples. However, in many cases we are required to handle millions of triples. In such cases, it is not necessary to deploy expensive distributed systems because logic program based reasoners in a single machine can produce similar reasoning performances with that of distributed reasoner using Hadoop. In this paper, we propose a scalable RDFS reasoner using logical programming methods in a single machine and compare our empirical results with that of distributed systems. We show that our logic programming based reasoner using a single machine performs as similar as expensive distributed reasoner does up to 200 million RDFS triples. In addition, we designed a meta data structure by decomposing the ontology triples into separate sectors. Instead of loading all the triples into a single model, we selected an appropriate subset of the triples for each ontology reasoning rule. Unification makes it easy to handle conjunctive queries for RDFS schema reasoning, therefore, we have designed and implemented RDFS axioms using logic programming unifications and efficient conjunctive query handling mechanisms. The throughputs of our approach reached to 166K Triples/sec over LUBM1500 with 200 million triples. It is comparable to that of WebPIE, distributed reasoner using Hadoop and Map Reduce, which performs 185K Triples/sec. We show that it is unnecessary to use the distributed system up to 200 million triples and the performance of logic programming based reasoner in a single machine becomes comparable with that of expensive distributed reasoner which employs Hadoop framework.

A Development of Non-Resident Program Loading for Effective Use of Memory on Large Capacity Electronic Switching Systems (대용량 전자교환기에서의 효율적인 메모리 운용을 위한 비상주 프로그램 로딩 기능 개발)

  • 김규환;이성근
    • Proceedings of the IEEK Conference
    • /
    • 1998.10a
    • /
    • pp.245-248
    • /
    • 1998
  • Until now, to solve the problem, the lack of memory at TDX-10A ESS (Electronic Switching System), we have extended only main memory of the systems. However, this method is useful for only Transitcall Processing Subsystems and, it is not an effective way that is able to apply to all Subsystems of ESS because of the financial aspect. In this paper, we will introduce a new method which uses Non-Resident Program. This method utilizes main memory more effectively. We will also analyze the effectiveness resulting from test of new method applied to TDX-10A ESS.

  • PDF