DOI QR코드

DOI QR Code

Preprocessing Method for Handling Multi-Way Join Continuous Queries over Data Streams

데이터 스트림에서 다중 조인 연속질의의 효과적인 처리를 위한 전처리 기법

  • 서기언 (삼성전자 DMC 연구소) ;
  • 이주일 (연세대학교 대학원 컴퓨터과학과) ;
  • 이원석 (연세대학교 컴퓨터과학과)
  • Received : 2012.03.15
  • Accepted : 2012.05.15
  • Published : 2012.06.30

Abstract

A data stream is a series of tuples which are generated in real-time, incessant, immense, and volatile manner. As new information technologies are actively emerging, stream processing methods are being needed to efficiently handle data streams. Especially, finding out an efficient evaluation for a multi-way join would make outstanding contributions toward improving the performance of a data stream management system because a join operation is one of the most resource-consuming operators for evaluating queries. In this paper, in order to evaluate efficiently a multi-way join continuous query, we propose a novel method to decrease the cost of a query by eliminating unsuccessful intermediate results. For this, we propose a matrix-based structure for monitoring data streams and estimate the number of final result tuples of the query and find out unsuccessful tuples by matrix multiplication operations. And then using these information, we process efficiently a multi-way join continuous query by filtering out the unsuccessful tuples in advance before actual evaluation of the query.

데이터 스트림이란 빠르게 연속적으로 무한히 발생하는 데이터 집합을 의미한다. 최근 다양한 산업의 발달로 인해 이러한 스트림 데이터의 효율적인 처리를 위한 요구 사항들이 늘어나고 있다. 특히 많은 연산 비용을 요구하는 조인 연산의 효율적인 처리는 데이터 스트림 관리 시스템의 성능 향상에 많은 영향을 미친다. 본 논문에서는 다중 조인 연속질의의 효율적인 처리를 위하여 최종 질의 결과에 포함되지 않는 불필요한 중간 조인 결과들을 사전에 제거함으로써 조인 연산의 비용을 감소시키는 방법을 제안한다. 이를 위해 스트림 데이터의 모니터링을 위한 매트릭스 기반의 구조체를 제안하고, 제안된 구조체를 이용한 매트릭스 연산을 통하여 최종 조인 결과의 투플 수를 예측함과 동시에 불필요한 중간 결과들을 만들어내는 투플들을 찾아낸다. 이를 통해 해당 투플을 이용한 조인 연산의 수행 여부를 결정하여 최종 조인 결과를 만들지 않는 투플을 조인 연산에서 배제함으로써 효율적으로 다중 조인 연속 질의를 처리한다.

Keywords

References

  1. D. J. Abadi, D. Carney, U. Centintemel, M. Cherniack, C. Convey, S. Lee, M. Stonebraker, N. Tatbul, S. Zdonik, "Aurora: A New Model and Architecture for Data Stream Management", VLDB Journal, vol.12, No.2, pp.120-139, 2003. https://doi.org/10.1007/s00778-003-0095-z
  2. B. Babcock, S. Babu, M. Datar, R. Motwani, "Chain: Operator Scheduling for Memory Minimization in Data Stream Systems", SIGMOD '03, June 2003.
  3. The STREAM groups, "STREAM: The Stanford Stream Data Manager (short overview paper)", IEEE Data Engineering Bulletin, March 2003.
  4. S. Chandrasekaran, O. Cooper, A. Deshpande, M. J. Franklin, J. M. Hellerstein, W. Hong, S. Krishnamurthy, S. Madden, V. Raman, V. Reiss, and M. Shah, "TelegraphCQ: Continuous Dataflow Processing for an Uncertain World", CIDR '03, Jan. 2003.
  5. J.-H. Hwang, U. Cetintemel, and Stan Zdonik, "Fast and Highly-available Stream Processing over Wide Area Networks", ICDE '08, April 2008
  6. S. Babu and J. Widom, "Continuous Queries over Data Streams", SIGMOD Record, vol.30, No.3, pp.109-120, 2001. https://doi.org/10.1145/603867.603884
  7. S. Madden, M. Shah, J. M. Hellerstein, and V. Raman, "Continuously Adaptive Continuous Queries over Streams", SIGMOD '02, June 2002.
  8. R. Avnur and J. M. Hellerstein. "Eddies: Continuously Adaptive Query Processing", SIGMOD Record, vol.29, No.2, pp.261-272. 2000. https://doi.org/10.1145/335191.335420
  9. Babcock, S. Babu, M. Datar, R. Motwani, and J. Widom, "Models and Issue in Data Stream Systems", PODS '02, June 2002.
  10. Y. Yang, D. Papadias, "Just-In Time Processing of Continuous Queries", ICDE '08, April 2008.
  11. Y. Zhu, E. A. Rundensteiner, and G. T. Heineman, "Dynamic Plan Migration for Continuous Queries over Data Streams", SIGMOD '04, June 2004.
  12. S. Viglas, J. F. Naughton, and J. Burger, "Maximizing the Output Rate of Multi-way Join Queries over Streaming Information Sources", VLDB '02, pp.285-296, Aug. 2003.
  13. S. Babu, K. Munagala, J. Widom, and R. Motwani, "Adaptive Caching for Continuous Queries", ICDE '05, pp.118-129, April 2005.
  14. L. Golab and M. T. Ozsu, "Processing Sliding Window Multi-Joins in Continuous Queries over Data Streams", VLDB '03, Sep. 2003.
  15. T. Urhan and M. J. Franklin. "XJoin: A Reactively-Scheduled Pipelined Join Operator", IEEE Data Engineering Bulletin, vol.23, No.2, pp.27-33, June 2000.
  16. H.-S. Lim, J.-G. Lee, M.-J. Lee, K.-Y. Whang, "Continuous Query Processing in Data Streams using Duality of Data and Queries", SIGMOD '06, June 2006.
  17. P. Bizarro, S. Babu, D. DeWitt, and J. Widom, "Content-based Routing: Different Plans for Different Data", VLDB '05, pp.757-768. Aug. 2005.
  18. H.-H. Lee, E.-W. Yun, W.-S. Lee, "Attribute-based Evaluation of Multiple Continuous Queries for Filtering Incoming Tuples of a Data Stream", Information Sciences, vol.178, No.11 pp.2416-2432, June 2008 https://doi.org/10.1016/j.ins.2008.01.014