• 제목/요약/키워드: LSM-Tree

검색결과 10건 처리시간 0.022초

키밸류 저장소 성능 제어를 위한 삭제 키 분리 LSM-Tree (A Tombstone Filtered LSM-Tree for Stable Performance of KVS)

  • 이은지
    • 한국인터넷방송통신학회논문지
    • /
    • 제22권4호
    • /
    • pp.17-22
    • /
    • 2022
  • 최근 웹 서비스의 확산과 함께 데이터의 형태는 더욱 다양해지고 있다. 이미지, 동영상, 텍스트 등 데이터를 저장하는 형태 뿐 아니라 해당 데이터를 표현하는 속성 및 메타데이터 등도 개수 및 형태가 데이터 별로 상이하다. 이러한 비정형 데이터를 효율적으로 처리하기 위해 키밸류 스토어(Key-Value Store)의 사용이 확산되고 있다. LSM-Tree(Log Structured Merge Tree)는 다양한 상용 키밸류 스토어의 핵심 자료구조이다. LSM-Tree 는 모든 쓰기 및 삭제 연산을 로그 방식으로 기록함으로써 소량의 쓰기에 높은 성능을 제공하도록 최적화 되어 있다. 그러나 최근 유효성 만료 데이터의 대용량 삭제 연산이 LSM-Tree에 특수 키밸류 데이터로 삽입됨에 따라 사용자 요청의 지연시간 및 처리속도가 저하된다는 문제점이 있다. 본 논문은 기존 LSM-Tree의 장점을 모두 유지하면서도 삭제된 키를 주요 트리 구조에서 분리하여 상기 문제를 해결하는 Filtered LSM-Tree (FLSM-Tree)를 제안한다. 제안하는 기법은 상용 키밸류 저장소인 LevelDB에 구현되었으며 성능 평가에서 읽기 성능이 최대 47% 향상됨을 보인다.

Acetyl Eburicoic Acid from Laetiporus sulphureus var. miniatus Suppresses Inflammation in Murine Macrophage RAW 264.7 Cells

  • Saba, Evelyn;Son, Youngmin;Jeon, Bo Ra;Kim, Seong-Eun;Lee, In-Kyoung;Yun, Bong-Sik;Rhee, Man Hee
    • Mycobiology
    • /
    • 제43권2호
    • /
    • pp.131-136
    • /
    • 2015
  • The basidiomycete Laetiporus sulphureus var. miniatus belongs to the Aphyllophorales, Polyporaceae, and grows on the needleleaf tree. The fruiting bodies of Laetiporus species are known to produce N-methylated tyramine derivatives, polysaccharides, and various lanostane triterpenoids. As part of our ongoing effort to discover biologically active compounds from wood-rotting fungi, an anti-inflammatory triterpene, LSM-H7, has been isolated from the fruiting body of L. sulphureus var. miniatus and identified as acetyl eburicoic acid. LSM-H7 dose-dependently inhibited the NO production in RAW 264.7 cells without any cytotoxicity at the tested concentrations. Furthermore it suppressed the production of proinflammatory cytokines, mainly inducible nitric oxide synthase, cyclooxygenase-2, interleukin (IL)-$1{\beta}$, IL-6 and tumor necrosis factor ${\alpha}$, when compared with glyceraldehyde 3-phosphate dehydrogenase. These data suggest that LSM-H7 is a crucial component for the anti-inflammatory activity of L. sulphureus var. miniatus.

RocksDB에서 SST 파일에 따른 WAF 감소에 관한 연구 (A Study on WAF reduction and SST file size on RocksDB)

  • 조민수;최원기;박상현
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2017년도 추계학술발표대회
    • /
    • pp.709-712
    • /
    • 2017
  • RocksDB는 Facebook에서 LevelDB를 기반으로 개발한 임베디드 key-value 스토리지 엔진이다. Log structured tree(LSM-tree)를 기본구조로 사용하는 RocksDB는 데이터를 레벨단위로 저장한다. 지속적인 데이터 입력으로 인하여 레벨의 크기를 초과하게 되면 하위 레벨의 SST 파일과 병합을 통해 하위레벨로 내려 보낸다. 이 과정에서 디바이스의 부가적인 쓰기가 발생한다. 본 논문에서는 RocksDB의 디스크영역에 있는 SST 파일의 크기가 디바이스의 쓰기 증폭에 미치는 영향을 분석하였다. SST 파일크기변화에 따른 디바이스의 쓰기 증폭과 성능변화를 측정하고 비교하였다. 실험결과를 통해 SST의 크기가 작을수록 쓰기 증폭이 줄었지만 디바이스의 쓰기와 읽기 성능이 감소하는 것을 확인하였다. 결과적으로 쓰기 증폭을 줄이고 성능을 최대화 하기 위해서는 이 둘의 트레이드오프를 파악하고 분석하여 시스템에 맞는 최적의 SST 파일 크기를 찾아야한다.

데이터베이스 성능 향상을 위한 기계학습 기반의 RocksDB 파라미터 분석 연구 (A Study on the Analysis of RocksDB Parameters Based on Machine Learning to Improve Database Performance)

  • 김휘군;최원기;최종환;성한승;박상현
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 추계학술발표대회
    • /
    • pp.69-72
    • /
    • 2020
  • Log Structured Merged Tree(LSM-Tree)구조를 사용하여 빠른 데이터 쓰기 성능을 보유한 RocksDB에는 쓰기 증폭과 공간 증폭 현상이 발생한다. 쓰기 증폭은 과도한 쓰기 연산을 유발하여 데이터 처리 성능 저하와 플래시 메모리 기반 장치의 수명 저하를 초래하며, 공간 증폭은 데이터 저장 공간 점유로 인한 저장 공간 부족 문제를 야기한다. 본 논문에서는 쓰기 증폭과 공간 증폭 완화를 위해 RocksDB 의 성능에 영향 주는 주요 파라미터를 추출하고, 기계학습 기법인 랜덤 포레스트를 사용하여 추출한 파라미터가 쓰기 증폭과 공간 증폭에 미치는 영향을 분석하였다. 실험결과 쓰기 증폭과 공간 증폭에 영향을 많이 주는 주요 요소를 선별하였고 다른 파라미터에 대비해서 성능 격차가 61.7% 더 나타낸 것을 발견하였다.

NVDIMM-N을 활용한 WiscKey 키-밸류 스토어 성능 향상 (Boosting WiscKey Key-Value Store Using NVDIMM-N)

  • 송일한;이보현;이상원
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제12권3호
    • /
    • pp.111-116
    • /
    • 2023
  • LSM 트리 기반 Key-Value 스토어의 컴팩션(compaction)에 의한 오버헤드를 최적화한 WiscKey 데이터베이스는 값은 별도의 파일에 저장하고, 데이터베이스에는 키와 값의 주소만을 저장한다. 값을 저장하는 과정에서 데이터 무결성을 보장하기 위해 매번 fsync 시스템 호출 함수를 사용한다. 기존의 수행된 연구에서 fsync 시스템 호출 함수를 호출하지 않고 데이터 저장 작업을 반복적으로 수행해 본 결과 총 작업 수행시간이 최대 5.8배까지 줄어들었다. 하지만 fsync 시스템 호출 함수를 사용하지 않을 경우 데이터베이스의 데이터 무결성을 보장하기 어렵다. 본 논문에서는 WiscKey 데이터베이스에서 작업 수행 중 fsync 시스템 호출 함수의 오버헤드를 줄이기 위해 NVDIMM 캐싱 기법을 사용하여 데이터 무결성을 보장함과 동시에 WiscKey 데이터베이스의 성능을 향상시켰다.

MVCC 지원 스킵 리스트의 범위 탐색 향상 기법 (An Enhancing Technique for Scan Performance of a Skip List with MVCC)

  • 김이주;이은지
    • 한국인터넷방송통신학회논문지
    • /
    • 제20권5호
    • /
    • pp.107-112
    • /
    • 2020
  • 본 논문에서는 LSM-tree 기반 키밸류 스토어에서 인메모리 데이터 관리를 위해 사용되는 스킵 리스트에 대한 연구를 수행하였다. 키밸류 스토어에서 사용되는 스킵 리스트는 덮어쓰기를 허용하지 않고 삽입만으로 모든 변경을 처리하는 삽입 기반 스킵 리스트이다. 이러한 동작 방식은 스냅샷 분리(Snapshot Isolation)을 통해 다중 읽기/쓰기 요청을 동시다발적으로 처리할 수 있는 MVCC(Multi-Version Concurrency Control)을 지원할 수 있다. 그러나 중복된 키가 다수 스킵 리스트에 존재함에 따라 리스트 탐색 시 불필요한 노드 방문으로 성능이 심각하게 저하될 수 있다. 특히 특정 범위의 데이터를 집합적으로 탐색하는 범위 탐색(Range Query)나 스캔(Scan) 연산 발생 시 심각한 오버헤드가 발생한다. 본 논문은 이러한 오버헤드를 줄이기 위해 새롭게 고안된 스트라이드 스킵 리스트(Stride Skip List)를 제안한다. 스트라이드 스킵 리스트는 동일 키의 마지막 노드에 대한 인덱싱 포인터를 추가적으로 유지하여 불필요한 노드 방문을 피할 수 있도록 한다. 제안된 기법은 RocksDB의 인메모리 컴포넌트를 활용하여 구현되었으며 다양한 워크로드에서 SCAN 연산의 성능을 기존 스킵 리스트 대비 최대 350배까지 향상시켰다.

라우터 기반의 신뢰적 멀티캐스트를 위한 버퍼 관리 ((Buffer Management for the Router-based Reliable Multicast))

  • 박선옥;안상현
    • 한국정보과학회논문지:정보통신
    • /
    • 제30권3호
    • /
    • pp.407-415
    • /
    • 2003
  • 다수의 수신자들이 하나의 송신자로부터 동일한 데이타를 받는 실시간 멀티미디어 서비스나 파일 전송 서비스 둥이 일반화되면서 멀티캐스트와 같은 효율적인 그룹통신 메커니즘에 대한 관심이 증대되고 있다. 유니캐스트에 비해 적은 대역폭을 쓰며 그룹관리가 용이한 멀티캐스트의 효율성이 부각되면서, 확장성 및 신뢰성을 보장하기 위한 다양한 프로토콜들이 제안되었다. 최근에는 망의 트리 구조를 알고 있는 라우터를 기반으로 물리적인 트리를 구성하여 지역그룹내의 응답자(replier)를 선정하고 손실된 패킷에 대한 재전송을 처리해 주는 방법에 대한 연구가 진행되고 있다. 이 경우, 지역그룹내의 응답자는 망의 상태에 따라 임의적으로 선택되므로 멀티캐스트 그룹내의 모든 수신자들은 응답자가 될 가능성이 있다. 따라서 그룹내의 모든 수신자들은 손실 복구를 위한 버퍼를 유지하며 이 버퍼에 수신한 패킷들을 저장한다. 이는 그룹내 모든 수신자들이 불필요한 패킷을 항상 버퍼에 유지해야 하는 오버헤드를 가짐을 뜻한다. 따라서 본 논문에서는 더 이상 손실 복구 요청을 받지 않게 될 불필요한 패킷을 미리 판단하여 수신자들의 버퍼에서 패킷들을 지울 수 있게 함으로써, 불필요한 자원손실을 막는 방법을 제안한다. 제안된 방법에서는 LSM[1] 모델을 기반으로 응답자 선정 및 패킷 손실 복구를 하며, 지역그룹을 대표하는 삭제자(eraser)로부터의 ACK를 사용하여 불필요한 패킷을 판단하고 버퍼에서 해당 패킷을 지운다.

센서·OPC-UA 시뮬레이션을 통한 엣지 기반 경량화 플랫폼 스토리지 엔진 평가 (Evaluation of Storage Engine on Edge-Based Lightweight Platform using Sensor·OPC-UA Simulator)

  • 조우진;여채은;구재회;임채영
    • 문화기술의 융합
    • /
    • 제9권3호
    • /
    • pp.803-809
    • /
    • 2023
  • 본 논문은 공장에너지관리시스템에 필수적인 데이터 수집 시스템을 엣지 기반 경량화 플랫폼에서 최적으로 구축하고자 분석 및 평가한다. 실증 중인 제조 공장의 센서를 기반으로 시뮬레이션 하여 센서/OPC-UA 시뮬레이터를 개발하였으며, 개발한 시뮬레이터를 통해 엣지 디바이스의 스토리지 엔진을 평가한다. 엣지 디바이스에서 스토리지 엔진에 따른 성능을 평가하여 최적의 스토리지 엔진을 제시한다. 실험 결과 스토리지 엔진을 RoccksDB로 사용하였을 때 InnoDB를 사용하였을 때에 비해 절반 이하의 메모리와 데이터베이스 크기를 지니며 3.01배 빠른 소요시간을 지니는 것을 알 수 있다. 이 연구는 한정된 자원을 사용하는 디바이스에서 시계열 데이터를 관리할 때 유리한 스토리지 엔진을 선택할 수 있으며, 센서/OPC 시뮬레이터를 통한 해당 분야 추가 연구에 기여한다.

엣지 기반 경량화 플랫폼을 위한 데이터 수집 시스템의 데이터베이스 비교 및 평가 (Comparison and Evaluation of Data Collection System Database for Edge-Based Lightweight Platform)

  • 조우진;임채영;구재회
    • Journal of Platform Technology
    • /
    • 제11권5호
    • /
    • pp.49-58
    • /
    • 2023
  • 에너지 관리 시스템 중 공장 에너지 관리 시스템은 제 3차 에너지 기본 계획과 전세계적 에너지 비용 증가, 환경·기후 문제등에 의해 급격히 성장하고 발전하고 있다. 하지만 이러한 공장 에너지 관리 시스템은 한정된 공간 등의 공장의 특성 상 에너지 관리 시스템의 데이터 수집을 위해 필수적인 데이터 수집 시스템의 구축이 공간적, 환경적, 에너지적으로 어려움을 지닌다. 본 논문은 이러한 공간, 환경, 에너지 관련 문제를 개선하기 위해 엣지 기반 경량화 플랫폼으로 데이터 수집 시스템을 구축하여 엣지 디바이스에서 데이터베이스 구동에 대한 비교 및 평가를 진행한다. 이를 평가하기 위하여 기존 실증 중에 있었던 공장의 특성을 활용하여 CDI Benchmark라는 평가 도구를 개발하여 평가를 진행한다. 평가 결과 MySQL과 같은 RDBMS는 대량 데이터 삽입 시 구동 문제가 발생하여 사용에 부적합 하며, InfluxDB의 경우 높은 압축률을 지닌 압축 알고리즘으로 인해 평가에 따라 MyRocks보다 최대 6배 작은 데이터베이스 크기를 지니지만, MyRocks의 경우 InfluxDB에 비해 최대 80배가량 적은 시간을 소모하는 것을 확인하였다.

  • PDF

산업용 IoT 환경을 위한 고성능 키-값 저장소의 설계 및 평가 (Design and Evaluation of a High-performance Key-value Storage for Industrial IoT Environments)

  • 한혁
    • 한국콘텐츠학회논문지
    • /
    • 제21권7호
    • /
    • pp.127-133
    • /
    • 2021
  • 산업용 IoT 환경에서 센서들은 감지하고 있는 대상의 데이터들을 연속으로 생성하며, IoT 게이트웨이에 전달한다. 따라서 대량의 실시간 센서 데이터를 관리하는 것은 IoT 게이트웨이에 필수적인 기능이며 이러한 센서 데이터를 관리하기 위해 키-값 스토리지 엔진들이 널리 사용되고 있다. 그러나 IoT 게이트웨이에 사용되는 키-값 스토리지 엔진들은 산업용 IoT 환경에서 생성되는 센서 데이터들의 특징을 고려하지 않고 있으며 이 때문에 제한된 성능을 보인다. 본 논문에서는 산업용 IoT 환경에서 센서 데이터의 특징을 활용하여 키-값 스토리지 엔진을 최적화한다. 제안하는 최적화 기법은 키-값 스토리지 엔진의 입력인 키를 분리하여 계층적인 색인화 작업을 하는 것이다. 이를 통해 과도하게 발생하는 쓰기 증폭을 줄이며 성능을 향상 시킬 수 있다. 이러한 최적화 기법을 LevelDB에 구현하였으며, 제안하는 기법을 평가하기 위해 TPCx-IoT의 워크로드를 사용했다. 실험 결과에 따르면 제안하는 기법의 성능은 기존의 방법보다 21배 더 좋으며 이는 제안하는 기법이 산업용 IoT 환경에서 데이터 수집을 고속으로 처리할 수 있음을 보인다.