DOI QR코드

DOI QR Code

Pipeline-MapReduce Model for Processing Large Data Sets in Distributed Systems

대용량 분산 데이터 처리를 위한 Pipeline-MapReduce 모델

  • Kim, Sun Jo (School of Information and Communication Engineering, Sungkyunkwan Univ.) ;
  • Kim, Taehyoung (School of Information and Communication Engineering, Sungkyunkwan Univ.) ;
  • Eom, Young Ik (School of Information and Communication Engineering, Sungkyunkwan Univ.)
  • 김선조 (성균관대학교 정보통신공학부) ;
  • 김태형 (성균관대학교 정보통신공학부) ;
  • 엄영익 (성균관대학교 정보통신공학부)
  • Published : 2009.11.13

Abstract

인터넷 상에서 정보량이 급격히 증가함에 따라 ISP들은 데이터를 효과적으로 처리하고 분석하기 위한 방법을 연구하고 있다. 대표적으로 Google에서는 대용량의 분산 데이터 처리 기법인 MapReduce 모델을 개발하였다. 본 논문에서는 기존 MapReduce 모델에 Pipeline 방식을 적용하여 성능을 개선한 Pipeline-MapReduce 기법을 제안한다. 그리고 실험을 통해 제안 기법이 기존 기법에 비해 빠른 처리 결과를 나타냄을 보여준다.

Keywords