DOI QR코드

DOI QR Code

저장시스템의 응답 시간 개선을 위한 효율적인 이중 큐 전략

An Efficient Dual Queue Strategy for Improving Storage System Response Times

  • 이현섭 (백석대학교 컴퓨터공학부)
  • Hyun-Seob Lee (Division of Computer Engineering, Baekseok University)
  • 투고 : 2024.04.06
  • 심사 : 2024.06.10
  • 발행 : 2024.06.30

초록

최근 빅데이터, 클라우드 컴퓨팅, 인공지능 등 대용량 데이터 처리 기술의 발전에 따라 데이터센터와 엔터프라이즈 환경에서 고성능 저장장치에 대한 요구가 증가하고 있다. 특히 저장장치의 빠른 데이터 응답 속도는 전체 시스템 성능을 좌우하는 핵심 요소이다. 이에 NVMe(Non-Volatile Memory Express) 인터페이스 기반 SSD(Solid State Drive)가 주목받고 있으나, 다수 호스트의 대량 데이터 입출력 요청을 동시에 처리하는 과정에서 새로운 병목 현상이 발생하고 있다. SSD는 일반적으로 호스트 요청을 내부 큐에 순차적으로 쌓아 처리하는 방식을 취한다. 이때 긴 전송 길이 요청이 먼저 처리되면 짧은 요청들이 장기간 대기하여 평균 응답 시간이 증가한다. 이 문제를 해결하기 위해 데이터 전송 시간제한과 데이터 분할 전송 방법이 제안되었으나 근본적인 해결책이 되지 못했다. 본 논문에서는 저장장치 내부 데이터 처리 스케줄링 전략인 DQBS(Dual Queue Based Scheduling Scheme)를 제안한다. 이 방식은 이중 큐 기반의 스케줄링 전략으로 하나의 큐에서는 요청 순서를, 다른 큐에서는 전송 길이를 기준으로 데이터 전송 순서를 관리한다. 그리고 요청 시간과 전송 길이를 종합적으로 고려하여 효율적인 데이터 전송 순서를 결정한다. 이를 통해 대기 시간이 긴 요청과 짧은 요청을 균형있게 처리할 수 있어 전체 평균 응답 시간을 단축시킬 수 있다. 실제 시뮬레이션 결과, 제안 기법은 기존 순차 처리 방식 대비 월등히 향상된 성능을 보였다. 본 연구는 고성능 SSD 환경에서 데이터 전송 효율을 극대화하는 스케줄링 기법을 제시하여, 차세대 고성능 저장 시스템의 발전에 기여할 수 있을 것으로 기대된다.

Recent advances in large-scale data processing technologies such as big data, cloud computing, and artificial intelligence have increased the demand for high-performance storage devices in data centers and enterprise environments. In particular, the fast data response speed of storage devices is a key factor that determines the overall system performance. Solid state drives (SSDs) based on the Non-Volatile Memory Express (NVMe) interface are gaining traction, but new bottlenecks are emerging in the process of handling large data input and output requests from multiple hosts simultaneously. SSDs typically process host requests by sequentially stacking them in an internal queue. When long transfer length requests are processed first, shorter requests wait longer, increasing the average response time. To solve this problem, data transfer timeout and data partitioning methods have been proposed, but they do not provide a fundamental solution. In this paper, we propose a dual queue based scheduling scheme (DQBS), which manages the data transfer order based on the request order in one queue and the transfer length in the other queue. Then, the request time and transmission length are comprehensively considered to determine the efficient data transmission order. This enables the balanced processing of long and short requests, thus reducing the overall average response time. The simulation results show that the proposed method outperforms the existing sequential processing method. This study presents a scheduling technique that maximizes data transfer efficiency in a high-performance SSD environment, which is expected to contribute to the development of next-generation high-performance storage systems

키워드

과제정보

This paper was supported by 2024 Baekseok University Research Fund

참고문헌

  1. M.Chen, S.Mao, and Y.Liu, "Big data: A survey," Mobile Networks and Applications Vol.19, No.2, pp.171-209, 2014. https://doi.org/10.1007/s11036-013-0489-0
  2. M.Marmol, Y.Fernandez, and P.Cuenca, "Enterprise Storage Cloud: A Hybrid Cloud Storage System," Sensors, Vol.19, No.18, 2019.
  3. C.Luo, E.Shedulund, J.Nelson, L.Frederick, E.Canino, and P.Zhang, "Data Analytics Applications and Performance in Large Data Center Environments," IEEE Access, Vol.7, pp.71176-71189, 2019.
  4. NVM Express Specification Revision 1.4, NVM Express, Inc., 2019.
  5. J.Lee, Y.Kim, G.M.Shipman, S.Oral, and F.Wang, "Constructing energy efficient manycore parallel data movement on modern SSD arrays," IEEE International Symposium on High-Performance Parallel and Distributed Computing, pp.61-72, 2018.
  6. R.Salkhordeh and H.R.Tavanir, "Analytical Performance Models for MQ-based Multi-stream SSD Architecture," IEEE Transactions on Computers, Vol.64, No.5, pp.1323-1336, 2015. https://doi.org/10.1109/TC.2014.2317184
  7. Y.Park, J.Cha, H.Lee, and S.Park, "Understanding NVMe Performance at Enterprise Scale," ACM Transactions on Storage, Vol.18, No.4, pp.1-29, 2022.
  8. D.Jo, Y.Kwon, H.Kim, and, C. Kyung, "Hit-Ratio Aware Delay-Capped Request Scheduling for NVMe SSD," IEEE Access, Vol.8, pp.135525-135538, 2020.
  9. S.Yun, J.Shin, and M.Erez, "Reducing the Tail Latency in NVMe SSDs," IEEE Computer Architecture Letters, Vol.19, No.2, pp.129-132, 2020.
  10. Y.Kim, S.Oral, G.M.Shipman, J.Lee, D.Dillow and F.Wang, "Orchestrating an Ensemble of Datacenter SSDs for High-Performance Sequential Data Accesses," ACM Transactions on Storage, Vol.10, No.4, pp.1-28, 2014.
  11. M.Bjorling, P.Bonnet, L.Bouganim and N.Dayan, "TheQuery-Friendly NVM Express Key-Value SSD," IEEE Data Engineering Bulletin, Vol.40, No.1, pp.36-48, 2017.
  12. H.S.Lee, "Performance analysis and prediction through various over-provision on NAND flash memory based storage," Journal of Digital Convergence, Vol.20, No.3, pp.343-348, 2022. https://doi.org/10.14400/JDC.2022.20.3.343
  13. H.S.Lee, "A Memory Mapping Technique to Reduce Data Retrieval Cost in the Storage Consisting of Multi Memories," Journal of Internet of Things and Convergence, Vol.9, No.1, pp.19-24, 2023. https://doi.org/10.20465/KIOTS.2023.9.1.019
  14. H.S.Lee, "A Study on Characteristics and Techniques that Affect Data Integrity for Digital Forensic on Flash Memory-Based Storage Devices," Journal of Internet of Things and Convergence, Vol.9, No.3, pp.7-12, 2023. https://doi.org/10.20465/KIOTS.2023.9.3.007
  15. http://iotta.snia.org/traces/block-io/388.