• 제목/요약/키워드: 클러스터 파일 시스템

검색결과 136건 처리시간 0.025초

HA-PVFS : 시간적 지역성에 적응적인 데이터 고가용성을 지원하는 PVFS 파일 시스템 (HA-PVFS : A PVFS File System supporting High Data Availability Adaptive to Temporal Locality)

  • 심상만;한세영;박성용
    • 정보처리학회논문지A
    • /
    • 제13A권3호
    • /
    • pp.241-252
    • /
    • 2006
  • 클러스터 파일 시스템에서 가용성 지원을 위해 파일 복제 방법과 패리티 서버 방식이 사용되어 왔으나, 공간과 시간적 비용이 매우 크고 대량 장애 상황에 적절히 대처하지 못하는 문제가 있다. 따라서 시간적 지역성이 높은 중요한 파일에 대해서만 복제를 하거나 패리티를 생성하게 하여 효율적으로 데이터의 고가용성을 지원하는 HA-PVFS 파일 시스템을 제안한다. 이 파일 시스템에서는 동적으로 주어지는 파일 접근 빈도를 적응적으로 추정해 내기 위하여, 제한적인 정보를 통해 실제 접근 패턴을 정확히 판단하는 알고리즘을 사용하고, 성능 저하를 최소화하기 위해 지연 업데이트 방식과 릴레이식 복제를 사용한다.

클러스터 공유파일 시스템의 전역버퍼 관리기 설계 (Design of Global Buffer Managerin Cluster Shared File Syste)

  • 이규웅;차영환
    • 한국컴퓨터산업학회논문지
    • /
    • 제5권1호
    • /
    • pp.101-108
    • /
    • 2004
  • 네트워크 시스템의 빠른 발전으로 인해 인터넷을 통한 대용량 멀티미디어 데이터가 폭발적으로 증가하고 있으며 대용량 데이터의 효율적인 저장 및 제공을 위해 기존 컴퓨팅 중심으저장 방식이 아닌 데이터 중심의 새로운 저장 시스템 패러다임이 요구되고 있다. 또한 저장장치 전용 네트워크인 SAN(Storage Area Network)과 NAS(network attached storage)의 보급으로 인해 클러스터 공유 파일 시스템의 요구가 증가하고 있다. 본 논문은 SAN 기반의 네트워크-부착형 저장 장치들을 군집화하여 파일 서버 없이 직접 데이터 전송이 가능한 클러스터 공유 파일 시스템인 SANiqueTM의 설계방법 및 각 주요 구성요소들의 기능을 기술한다. 특히 효율적인 데이터 접근을 극대화하기 위한 전역 버퍼 관리기의 설계를 제안하며 그 프로토콜에 대하여 기술한다.

  • PDF

VIA 기반 PC 클러스터 시스템을 위한 무복사 파일 전송 메커니즘의 개발 및 성능분석 (Development and Performance Study of a Zero-Copy File Transfer Mechanism for Ink-based PC Cluster Systems)

  • 박세진;정상화;최봉식;김상문
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제32권11_12호
    • /
    • pp.557-565
    • /
    • 2005
  • 본 논문에서는 VIA(Virtual Interface Architecture) 기반 클러스터 시스템 상에서 효과적인 파일 전송을 위한 무복사 파일 전송 메커니즘의 개발 및 구현에 관하여 나타내었다. VIA는 클러스터 시스템을 위한 대표적인 사용자 수준 통신 방법이지만 파일 전송에 대한 라이브러리는 제공하지 않으며 파일 전송을 위해서는 커널 공간에서 사용자 공간으로 한번의 데이타 복사가 필요하다. 본 논문의 파일 전송 메커니즘은 파일시스템의 수정 없이 파일 전송 라이브러리만 제공함으로써, 네트워크 인터페이스 카드가 보내고자 하는 노드의 파일을 상대방 노드의 사용자 버퍼로 복사 없이 전송 가능케 하였다. 이를 위해 본 연구에서는 PCI 64bit/66MHz를 지원하고 물리적 네트워크로 기가비트 이더넷을 사용하는 VIA 기반의 네트워크 카드를 개발하였고, 이를 바탕으로 무복사 파일 전송 메커니즘을 구현하였다. 이러한 구현의 결과로 sender 측의 데이타 복사 횟수 및 문맥전환 시간을 줄였고, 기존의 VIA의 send/receive에 비해 CPU 사용률을 $30\%\~40\%$ 정도로 줄일 수 있었다. 본 논문에서는 TCP/IP에서 제공하는 무복사 파일 전송 및 VIA에서 사용되는 파일 전송 방법과의 비교 분석 실험을 통하여 본 논문에서 제시한 무복사 파일 전송 메커니즘의 성능을 보였다.

대규모 파일 시스템을 위한 동적 해싱 디렉토리 (Dynamic Hashing Directories for Large File Srstems)

  • 김신우;이용규
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2004년도 춘계학술발표대회논문집
    • /
    • pp.616-619
    • /
    • 2004
  • 최근 대용량 데이터의 저장과 검색을 요구하는 파일시스템이 필요하게 됨에 따라, 별도의 서버를 두지 않고 분산된 클라이언트가 메타데이터를 직접 관리하면서 모든 저장 장치들에 접근할 수 있는 SAN 기반 리눅스 클러스터 파일시스템의 연구가 활발하게 진행 중에 있다. 이러한 대규모 파일 시스템을 위해서는 동적 해싱을 이용한 디렉토리 관리가 요구되므로, 본 논문에서는 그 중 확장 해싱 디렉토리 구조와 선형 해싱 디렉토리 구조를 설계 및 구현하고, 구현된 시스템을 이용하여 성능평가를 통해 두 디렉토리 구조의 성능을 분석한다. 비교 분석 결과, 파일의 삽입 성능에서는 선형 해싱 기반의 디렉토리가 우수하였으나, 공간 활용면에서는 확장 해싱 기반의 디렉토리가 우수한 성능을 보였다.

  • PDF

리눅스 클러스터 서버 상에서 RTSP 기반의 VOD 스트리밍 시스템의 설계 및 구현 (Design and Implementation of the RTSP Based VOD Streaming System On Linux Cluster Servers)

  • 김영진;홍기호;최황규
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2001년도 가을 학술발표논문집 Vol.28 No.2 (3)
    • /
    • pp.760-762
    • /
    • 2001
  • 리눅스 클러스터 서버는 고성능 저가의 PC와 공개 소프트웨어인 리눅스를 활용함으로써 고가의 단일서버에 비하여 확장성과 가용성이 높은 고성능 서버의 실현이 가능하다. 이에 따라 리눅스 클러스터 서버를 대용량 멀티미디어 스트리밍 서비스 등에 활용하고자 하는 연구가 활발히 이루어지고 있다. 본 논문에서는 리눅스 클러스터 상에서 스트리밍 표준 프로토콜인 RTSP/RTP를 기반으로 현재 가장 널리 활용되고 있는 Microsoft사의 ASF 파일 형식을 지원하는 스트리밍 서버와 클라이언트 플레이어를 설계 구현한다. 구현된 시스템은 Windows 시스템에 비하여 비교적 저가에 현재 인터넷상에서 스트리밍 서비스의 표준으로 자리잡고 있는 ASF 파일의 스트리밍 실현이 가능하다.

  • PDF

리눅스 클러스터 환경에서 단일 블록 디바이스 이미지에 관한 연구 (A Study on Single Block Device Image for Linux Cluster Environment)

  • 김태호;이종우
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2001년도 춘계학술발표논문집 (상)
    • /
    • pp.259-262
    • /
    • 2001
  • 현대 사회의 모든 분야가 정보화에 의해 통합되면서 여러 분야에서 고성능 서버에 대한 수요가 증가하고 있다. 그러나, 그것의 높은 비용과 상대적으로 제한된 성능으로 인하여 최근에는 여러 대의 호스트를 네트워크로 연결하는 클러스터링 기술이 각광을 받고 있다. 이러한 다수의 호스트로 구성된 클러스터 시스템의 성능을 최적화하기 위해, 각 노드에 분산된 자원을 효율적으로 통합하고 관리함으로써 사용자에게 투명하고 일관된 인터페이스를 제공하는 단일 시스템 이미지의 지원이 요구된다. 본 논문에서는 리눅스 클러스터 시스템의 입출력 공간에서 단일 시스템 이미지를 지원하기 위한 가상 블록 디바이스 드라이버 설계를 제안하였다. 가상 블록 디바이스 드라이버는 원격 노드의 디스크를 가상의 지역 디스크로 다루기 위해 기존의 파일 시스템을 수정하지 않고 디바이스 드라이버 수준에서 접근함으로써 파일 시스템과의 호환성을 유지하며 사용자에게 투명성을 제공한다.

  • PDF

하둡 분산 파일시스템에서의 유연한 노드 관리를 위한 지연된 블록 복제 기법 (Delayed Block Replication Scheme of Hadoop Distributed File System for Flexible Management of Distributed Nodes)

  • 류우석
    • 한국전자통신학회논문지
    • /
    • 제12권2호
    • /
    • pp.367-374
    • /
    • 2017
  • 본 논문에서는 빅 데이터 처리를 위한 플랫폼인 하둡이 가지고 있는 분산 노드 관리 기법의 문제점을 분석하고 하둡 분산 파일시스템에서 노드 관리를 유연하게 처리하기 위한 기법을 제안한다. 기존의 방법은 클러스터에 포함된 노드가 일시적으로 연결되지 않는 경우 이를 즉시 고장으로 판정함으로 인해 클러스터를 동적으로 구성하지는 못하는 문제가 있다. 본 논문에서 제안하는 지연된 블록 복제 기법은 연결이 끊어진 노드가 추후 클러스터에 쉽게 편입될 수 있도록 노드의 제거를 최대한 지연함으로써 노드 관리의 유연성을 제공한다. 실험을 통해 제안하는 기법이 클러스터의 규모가 변화하는 환경에서 분산 처리 성능에 영향을 거의 미치지 않으면서도 노드 관리의 유연성을 증대시키는 것을 입증한다.

하둡 분산 파일시스템의 동적 클러스터 관리 기법 (Dynamic Cluster Management of Hadoop Distributed Filesystem)

  • 류우석
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2016년도 추계학술대회
    • /
    • pp.435-437
    • /
    • 2016
  • 하둡 분산 파일시스템(HDFS)는 빅데이터의 병렬 분산 처리를 위해 다수의 노드에 데이터를 중복 저장하는 파일시스템이다. HDFS의 분산 노드 클러스터는 수천 개 이상의 규모 확장성을 갖추고 있으나 빅데이터 처리를 위한 전용 하드웨어를 가정하고 있으며, 기존의 기업 및 병원에서 사용하고 있는 다양한 유휴 전산 자원을 고려하지는 못하는 문제가 있다. 본 논문에서는 기관 내 존재하는 다양한 유휴 전산 자원을 필요에 따라 동적으로 HDFS에 추가함으로써 빅데이터 저장 및 분석 성능을 향상시킬 수 있는 동적 클러스터 관리 기법을 제시한다.

  • PDF

PVFS를 위한 홈 기반 상호 협력 캐쉬의 설계 및 구현 (Design and Implementation of a Home-based Cooperative Cache for PVFS)

  • 황인철;정한조;맹승렬;조정완
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2004년도 봄 학술발표논문집 Vol.31 No.1 (A)
    • /
    • pp.58-60
    • /
    • 2004
  • 요즘 값싼 PC들을 빠른 네트웍으로 묶어 높은 성능을 얻고자하는 클러스터 컴퓨팅에 대한 연구가 활발히 이루어지면서 CPU나 메모리, 네트웍보다 상대적으로 느린 디스크에서 데이터를 읽어 효율적으로 파일서비스를 하는 분산 파일 시스템이 개발되었다. 기존 분산 파일 시스템 중 클러스터 컴퓨팅에서 많이 사용하는 Linux 운영 체제에서 병렬 I/O를 사용하여 사용자에게 빠른 파일 서비스를 제공하여 주는 PVFS가 개발되었다. 기존 PVFS에서는 캐쉬 시스템을 제공하고 있지 않기 때문에 읽기 성능을 향상시키기 위하여 PVFS를 위한 상호 협력 캐쉬를 설계하고 구현하였다. 기존에 구현된 PVFS를 위한 상호 협력 캐쉬는 힌트 기반 상호 협력 캐쉬로서 부정확한 읽기/쓰기를 수행함으로서 읽기/쓰기 부하가 커지는 단점이 있다. 따라서 본 논문에서는 기존 PVFS를 위한 상호 협력 캐쉬의 읽기/쓰기 성능 향상을 위해 PVFS를 위한 상호 협력 캐쉬를 홈 기반 상호 협력 캐쉬로서 설계 및 구현한다. 그리고 PVFS, 기존 PVFS를 위한 힌트 기반 상호 협력 캐처와 PVFS를 위한 홈 기반 상호 협력캐쉬의 성능을 비교, 분석한다.

  • PDF

PVFS2 를 위한 파일 접근 로그 생성 (Log Generation for File Access on PVFS2)

  • 차광호;조혜영;김성호
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2007년도 추계학술발표대회
    • /
    • pp.675-677
    • /
    • 2007
  • 클러스터 시스템의 응용 분야가 다양화되고 복잡해짐에 따라, 대규모 클러스터 시스템을 보다 효율적으로 사용하기 위해서 실제 사용자의 이용 패턴을 예측할 수 있는 워크로드 분석의 필요성이 높아지고 있다. 워크로드 분석으로는 다양한 작업이 진행되는데 특히 파일 단위의 동적 접근 분석도 이에 포함된다. 본 논문에서는 실험용 병렬 파일 시스템으로 많이 보급된 PVFS2 에 파일 단위접근 기록을 가능케하는 방안을 모색하고 이 기능의 활용 가능성을 살펴 보았다.