• 제목/요약/키워드: Write Replication

검색결과 11건 처리시간 0.025초

Dynamic Load Balancing and Network Adaptive Virtual Storage Service for Mobile Appliances

  • Ong, Ivy;Lim, Hyo-Taek
    • Journal of Information Processing Systems
    • /
    • 제7권1호
    • /
    • pp.53-62
    • /
    • 2011
  • With the steady growth of mobile technology and applications, demand for more storage in mobile devices has also increased. A lightweight block-level protocol, Internet Advanced Technology Attachment (iATA), has been developed to deliver a cost-effective storage network solution for mobile devices to obtain more storage. This paper seeks to contribute to designing and implementing Load Balancing (LB), Network Monitoring (NM) and Write Replication (WR) modules to improve the protocol's scalability and data availability. LB and NM modules are invoked to collect system resources states and current network status at each associate node (server machine). A dynamic weight factor is calculated based on the collected information and sent to a referral server. The referral server is responsible to analyze and allocate the most ideal node with the least weight to serve the client. With this approach, the client can avoid connecting to a heavily loaded node that may cause delays in subsequent in-band I/O operations. Write replication is applied to the remaining nodes through a WR module by utilizing the Unison file synchronization program. A client initially connected to node IP A for write operations will have no hindrances in executing the relevant read operations at node IP B in new connections. In the worst case scenario of a node crashing, data remain recoverable from other functioning nodes. We have conducted several benchmark tests and our results are evaluated and verified in a later section.

클라우드 분산 파일 시스템 성능 개선 및 평가 (Performance Enhancement and Evaluation of Distributed File System for Cloud)

  • 이종혁
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제7권11호
    • /
    • pp.275-280
    • /
    • 2018
  • 클라우드 환경에서 빅데이터 적재와 이후 애플리케이션을 통한 고속 처리를 위해서는 적합한 분산 파일 시스템의 선택이 요구된다. 본 논문에서는 GlusterFS 기반 쓰기 성능 향상 방법을 제안하고 클라우드 환경에서 기존 분산 파일 시스템 중 MapRFS, CephFS, GlusterFS와 성능을 비교 평가한다. 본 논문에서 제안한 쓰기 성능 향상 방법은 동기식 스토리지 복제 방식에서 사용하는 동기화 수준을 디스크에서 메모리로 변경함으로써 응답 시간을 향상 시킨다. 실험 결과는 본 논문의 제안 방법이 적용된 분산 파일 시스템이 순차 쓰기의 경우와 랜덤 쓰기와 랜덤 읽기가 혼합된 경우에서 다른 분산 파일 시스템 대비 성능이 우수함을 보인다.

A Data-Consistency Scheme for the Distributed-Cache Storage of the Memcached System

  • Liao, Jianwei;Peng, Xiaoning
    • Journal of Computing Science and Engineering
    • /
    • 제11권3호
    • /
    • pp.92-99
    • /
    • 2017
  • Memcached, commonly used to speed up the data access in big-data and Internet-web applications, is a system software of the distributed-cache mechanism. But it is subject to the severe challenge of the loss of recently uncommitted updates in the case where the Memcached servers crash due to some reason. Although the replica scheme and the disk-log-based replay mechanism have been proposed to overcome this problem, they generate either the overhead of the replica synchronization or the persistent-storage overhead that is caused by flushing related logs. This paper proposes a scheme of backing up the write requests (i.e., set and add) on the Memcached client side, to reduce the overhead resulting from the making of disk-log records or performing the replica consistency. If the Memcached server fails, a timestamp-based recovery mechanism is then introduced to replay the write requests (buffered by relevant clients), for regaining the lost-data updates on the rebooted Memcached server, thereby meeting the data-consistency requirement. More importantly, compared with the mechanism of logging the write requests to the persistent storage of the master server and the server-replication scheme, the newly proposed approach of backing up the logs on the client side can greatly decrease the time overhead by up to 116.8% when processing the write workloads.

클라우드 컴퓨팅 환경을 위한 WAN 스토리지 이주 기법 성능평가 (Performance Evaluation of WAN Storage Migration Scheme for Cloud Computing Environment)

  • 창준협;이원주;전창호
    • 한국컴퓨터정보학회논문지
    • /
    • 제17권5호
    • /
    • pp.1-7
    • /
    • 2012
  • 본 논문에서는 클라우드 컴퓨팅 환경에서 WAN 스토리지 복제 모델의 성능평가를 위한 시뮬레이터를 설계하고 구현한다. 이 시뮬레이터의 각 클라우드는 가상머신의 역할을 수행하는 가상머신 에뮬레이터와 스토리지의 역할을 수행하는 스토리지 에뮬레이터로 구성된다. 가상머신 에뮬레이터는 R/W 작업비율 설정모듈, R/W 순서 조합모듈, R/W 요청모듈로 구성한다. 스토리지 에뮬레이터는 스토리지 관리모듈, 데이터 전송모듈, R/W 수행모듈, 오버헤드 처리모듈로 구성된다. 이 시뮬레이터를 이용하여 스토리지에 대한 R/W 비율, 네트워크 지연, 네트워크 대역폭 등의 변화에 따른 두 이주 방법의 성능을 평가한다. 그 결과 read 작업이 증가 할수록 선 복제 모델의 평균이 주시간은 감소 하지만 후 복제 모델의 평균이주시간은 증가한다. 또한, 네트워크 지연이 증가할수록 후 복제 모델의 평균이주시간은 증가 하였지만, 선 복제 모델의 평균이주시간은 일정함을 보인다. 따라서 네트워크의 지연이 증가 하는 경우 후 복제 모델보다 선 복제 모델의 성능이 우수함을 알 수 있었다. 네트워크 대역폭의 변화에 따른 평균이 주시간은 두 모델이 유사하였기 때문에 스토리지 복제 모델을 선정함에 있어 네트워크 대역폭은 중요한 요소가 아님을 알 수 있었다.

대용량 컬럼 저장소를 위한 교차 압축 이중화 기법 (Cross Compressed Replication Scheme for Large-Volume Column Storages)

  • 변시우
    • 한국산학기술학회논문지
    • /
    • 제14권5호
    • /
    • pp.2449-2456
    • /
    • 2013
  • 컬럼-기반 데이터베이스 저장소는 우수한 입출력 성능으로 대용량 데이터 분석 시스템을 위한 매우 진보적인 모델이다. 전통적인 데이터 저장소는 빠른 쓰기 연산을 위하여 한 레코드의 속성들을 하드 디스크에 연속적으로 배치되어 있는 가로-지향 저장 모델을 활용하였다. 하지만 검색이 대부분인 데이터웨어하우스 시스템을 위해서는 월등한 판독 성능 때문에 컬럼-지향 저장소가 더 적합한 모델이 되고 있다. 또한 최근에는 MLC 플래시 메모리를 사용한 SSD가 고속 데이터 분석 시스템을 위한 적합한 저장 매체로 인식되고 있다. 본 논문에서는 고속 컬럼-지향 데이터 저장소 모델을 도입하고, 고속 컬럼-지향 데이터웨어하우스 시스템을 위한 교차 압축 이중화를 활용하는 새로운 저장소 관리 기법을 제안한다. 본 저장소 관리 기법은 두 개의 MLC SSD에 기반하며, 압축과 비압축된 세그먼트의 교차 이중화를 통하여 높은 CPU 및 입출력 부하에서도 우수한 저장 성능과 안정성을 얻는다. 성능 평가 결과를 통하여 본 저장소 관리 기법이 기존 기법보다 컬럼 세그먼트 갱신 처리치 및 그 응답시간 측면에서 더 우수함을 확인하였다.

클라우드 스토리지 시스템에서 데이터 접근빈도와 Erasure Codes를 이용한 데이터 복제 기법 (Data Access Frequency based Data Replication Method using Erasure Codes in Cloud Storage System)

  • 김주경;김덕환
    • 전자공학회논문지
    • /
    • 제51권2호
    • /
    • pp.85-91
    • /
    • 2014
  • 클라우드 스토리지 시스템은 데이터의 저장과 관리를 위해서 분산 파일시스템을 사용한다. 기존 분산 파일시스템은 데이터 디스크의 손실 발생시 이를 복구하기 위해서 3개의 복제본을 만든다. 그러나 데이터 복제 기법은 저장공간을 원본 파일의 복제 횟수만큼 필요로하고 복제과정에서 입출력 발생이 증가하는 문제가 있다. 본 논문에서는 SSD 기반 클라우드 스토리지 시스템에서 저장공간 효율성 향상과 입출력 성능 향상을 위하여 Erasure Codes를 이용한 데이터 복제 기법을 제안한다. 특히, 데이터 접근 빈도에 따라 복제 횟수를 줄이더라도 Erasure Codes를 사용하여 데이터 복구 성능을 동일하게 유지하였다. 실험 결과 제안한 기법이 HDFS 보다 저장공간 효율성은 최대 약40% 향상되었으며, 읽기성능은 약11%, 쓰기성능은 약10% 향상됨을 확인하였다.

고 가용성 분산 시스템을 위한 효율적인 하이브리드 복제 프로토콜 (An Efficient Hybrid Replication Protocol for High Available Distributed System)

  • 윤희용;최성춘
    • 정보처리학회논문지A
    • /
    • 제12A권2호
    • /
    • pp.171-180
    • /
    • 2005
  • 분산 시스템에서 가용성을 높이고 전체 시스템의 성능을 향상시키기 위해 데이터는 여러 노드에 중복하여 저장된다. 여기서는 전역적 접근제어를 위해서 읽기/쓰기 동작을 수행하는데 필요한 노드의 집합을 정의하는 Quorum 프로토콜이 존재한다. Quorum 프로토콜을 사용하는 대표적인 복제 프로토콜인 Tree Quorum 프로토콜은 트리의 높이가 증가할수록 노드의 수가 기하급수적으로 증가하고, Grid 프로토콜은 노드에 장애가 발생하지 않아도 언제나 같은 읽기/쓰기 비용을 갖는다는 단점을 갖고 있다. 따라서, 본 논문에서는 기존 프로토콜의 장점을 가지면서 단점을 해결할 수 있는 새로운 하이브리드 프로토콜을 제안한다. 제안된 하이브리드 프로토콜은 전체적으로는 트리 구조를 가지면서 각 레벨에서는 그리드의 열과 같은 구조를 가짐으로써 노드에 장애가 없을 때에는 Tree Quorum 프로토콜과 같이 적은 동작 비용을 요구하며, 노드에 장애가 존재할 경우에도 기존 프로토콜에 비해 상대적으로 적은 동자 비용과 높은 가용성을 보인다. 그러므로 높은 데이터 가용성이 요구되는 서바이벌 스토리지 시스템에 효율적으로 적용 가능하다. 본 논문에서는 수학적 모델링을 통하여 제안된 프로토콜의 비용과 가용성을 평가하고, 시뮬레이션을 통해 응답시간과 처리율을 기존의 Tree quorum프로토콜과 비교한다.

고성능 Grid 환경에서의 LDAP 시스템의 분산모델과 복제모델의 특성 (Characteristic of Data Distribution and Data Replication based Model of LDAP System in High Performance Grid Environments)

  • 권성호;김희철
    • 한국산업정보학회논문지
    • /
    • 제9권1호
    • /
    • pp.77-84
    • /
    • 2004
  • 최근, 국내외적으로 국가차원에서 Grid에 대한 다양한 연구가 이루어지고 Grid 컴퓨팅 기술에 대한 상용화의 추세가 보이면서 Grid 시스템에 참여하는 엔티티의 수가 날로 증가하고 있다. 따라서 Globus에 기반 한 Grid환경에서의 기존의 LDAP시스템은 늘어나는 부하를 처리하기에는 충분하지 못하게 되었고 제공할 수 있는 성능의 한계를 초과하고 있다. 이를 위하여 고성능 Grid환경에 부합되는 새로운 LDAP시스템의 설계가 필수적이고 이를 위해서는 기존 LDAP시스템에 대한 성능분석이 우선시 되어야 한다. 하지만 기존의 대부분의 연구는 읽기 동작이 대부분을 차지하는 기존의 응용들을 위한 성능향상에 목적을 두고 있어서 쓰기 동작이 대부분을 차지하는 Grid환경에 적용하기에는 부적합하다. 본 논문에서는 노드수(n), 도착율(λ), 읽기 확률(Pr)변화에 따른 분산 기반 모델과 복제 기반 모델에서 성능분석의 결과를 제시한다. 이를 위하여 M/M/l 큐잉모델을 기초로 기존 LDAP시스템에 대한 분산과 복제에 기반 한 분석모델을 도출하고, 분석모델을 통한 성능분석의 결과를 제시한다. 본 논문의 목표는 이러한 성능분석의 결과를 바탕으로 고성능 Grid환경에 부합되는 새로운 LDAP시스템의 설계방향을 제시하고자 한다. 또한 이러한 결과들은 고성능 Grid환경에서 LDAP기반의 GIS시스템의 설계에 기초자료 활용할 수 있을 것으로 사료된다.

  • PDF

키-값 저장소를 위한 효율적인 로그 처리 기법 설계 및 평가 (Design and Evaluation of an Efficient Flushing Scheme for key-value Store)

  • 한혁
    • 한국콘텐츠학회논문지
    • /
    • 제19권5호
    • /
    • pp.187-193
    • /
    • 2019
  • 키-값 스토리지 엔진은 소셜 네트워크, 온라인 전자 상거래 환경 및 클라우드 서비스를 포함한 많은 컴퓨팅 환경에서 점점 더 수요가 증가하고 있는 필수적인 구성 요소다. 최근 키-값 스토리지 엔진은 트랜잭션, 버전관리 및 복제를 비롯한 많은 기능을 제공한다. 키-값 스토리지 엔진에서 트랜잭션 처리는 로그 선행 기입을 사용하여 원자성을 제공하며, 동기식 커밋 방식에서는 트랜잭션이 완료되기 전에 로그 데이터를 플러시한다. 그러나 로그 선행 기입에서 로그 데이터를 저장 장치로 플러시하는 것은 다양한 최적화 기법이 제안되었음에도 불구하고 여전히 fsync() 호출에 큰 오버헤드가 존재하고 있기 때문에 키-값 스토리지 엔진의 성능 병목이다. 이 논문에서는 기존 플러싱 체계를 최적화하기 위해 그룹 동기화 기법을 제안하여 키-값 스토리지 엔진의 성능을 개선한다. 또한, fsync()를 수행하는 동안에 다른 트랜잭션을 수행하는 트랜잭션 스케줄링 기법을 제안한다. 이 체계는 기존 시스템이 제공하는 동일한 트랜잭션 수준을 지원하면서 fsync() 호출의 수를 줄이는 효율적인 방법이다. 우리는 WiredTiger 스토리지 엔진에 제안하는 방법을 구현하였다. 실험 결과는 제안된 시스템이 기존 시스템에 비해 키-값 워크로드의 성능을 향상시킨다는 것을 보여준다.

트랜잭션 우선 순위 상승을 이용한 분산 실시간 병행수행제어 기법 (A Distributed Real-Time Concurrency Control Scheme using Transaction the Rise of Priority)

  • 이종설;신재룡;조기형;유재수
    • 한국정보과학회논문지:데이타베이스
    • /
    • 제28권3호
    • /
    • pp.484-493
    • /
    • 2001
  • 실시간 데이터베이스 시스템이 분산환경으로 확장됨에 따라 기존의 실시간 병행수행 제어 기법을 분산환경으로 적용할 필요성이 대두되었다. 이에 본 논문에서는 중복 저장(replication)을 지원하는 분산 실시간 데이터베이스 시스템을 위한 효율적인 병행수행 제어 기법을 제안한다. 제안하는 기법은 중복 저장을 지원하는 분산 실시간 환경에서 완료준비 단계에 도달한 트랜잭션의 우선 순위를 상승시킴으로써 트랜잭션의 완료를 최대한 보장하며 완료 준비 단계에서 재시작 되는 트랜잭션을 줄이고 잠금 지연 시간을 최소화한다. 도한, 우선 순위가 상승된 트랜잭션이 점유한 데이터에 대한 대여(lending)를 허용함으로써 데이터를 차용(borrowing)한 트랜잭션의 대기시간이 감소되고 전체적인 시스템 성능이 향상되었다. 제안한 기법에 대한 성능 평가에서는 Firm 실시간 데이터베이스 환경에서 2단계 완료 기법을 기반으로 DO2PL_PA와 MIRROR 기법을 대상으로 트랜잭션의 도착율, 크기, 쓰기 가능성 및 데이터 중복율에 대한 마감시한 초과비율을 비교한다.

  • PDF