• Title/Summary/Keyword: 오토-스케일링

Search Result 14, Processing Time 0.027 seconds

SLA-based Auto-Scaling for Cloud Collaboration Platform (클라우드 협업 플랫폼을 위한 SLA기반 오토-스케일링 기법)

  • Kim, Ki-Hyun;Jung, In-Yong;Han, Byung-John;Jeong, Chang-Sung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2013.11a
    • /
    • pp.98-99
    • /
    • 2013
  • 가상화 기술의 등장으로 서버를 가상화하여 컴퓨팅 자원을 동적으로 사용할 수 있게 되면서 탄력적인 프로비져닝이 가능해져 기업은 좀 더 유연하게 대처할 수 있게 되었다. 클라우드 컴퓨팅 환경을 이용하는 데 있어 가장 중요한 이슈 중 하나는 자원을 사용함에 있어 실제 필요한 양만큼 할당하여 사용하는 것이다. 현대 응용의 가변적인 작업 부하에 따라 필요한 만큼만 자원을 제공하기 위해 SLA 기반 오토-스케일링 기법을 이용하여 자원 할당의 자동화를 연구하고 있다. 하지만 대부분의 클라우드 협업 플랫폼은 오토-스케일링 기술을 지원하지 않는다. 또한, 대부분의 SLA 기반 오토-스케일링 기법은 웹 응용에서 중요한 평균 응답 시간은 보장하지 않는다. 본 논문에서는 클라우드 환경에서 가변적인 사용자 요청에 따라 플랫폼은 평균 응답 시간을 보장하고 SLA 위반 여부에 따라 추가 자원을 할당하는 오토-스케일링 기법을 제안한다.

Performance Analysis of Container based Autoscaling System (컨테이너 기반 오토스케일링 환경의 성능 분석)

  • Heo, June;Yu, Heonchang
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2018.10a
    • /
    • pp.63-66
    • /
    • 2018
  • 컨테이너 기술은 운영체제 수준 가상화 기술 중 하나로 하드웨어 레벨 가상화 기술에 비해 인스턴스의 빠른 생성 및 종료시킬 수 있는 특성이 있다. 이러한 특성은 직업 부하에 따라 인스턴스의 빠른 생성 및 종료시킬 수 있는 특성이 있다. 이러한 특성은 작업 부하에 따라 인스턴스의 수량을 동적으로 조정하는 오토스케일링 상황에서 유리하게 작용할 수 있다. 본 논문에서는 다수의 노드를 기반으로 구성된 컨테이너 기반의 오토스케일링 환경과 가상머신 기반의 오토스케일링 환경을 성능 측면에서 비교하고 컨테이너 기반 환경에서 자원 할당의 변화가 성능에 주는 영향을 측정 및 분석한다.

Dynamic SLA based Auto-Scaling Engine (동적 SLA 기반 오토-스케일링 엔진)

  • Kim, Ki-Hyun;Kim, Ho-Seung;Son, Moo-yeol;Jeong, Chang-Sung
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2015.04a
    • /
    • pp.69-72
    • /
    • 2015
  • 계산 과학 분야에서 자원을 필요한 만큼 빌려 쓸 수 있는 클라우드 기술을 적용하여 과학 클라우드(Science Cloud)를 구축하는 연구가 활발해지고 있다. 특히 의료 분야에서는 3D 볼륨 렌더링과 갈은 고성능의 자원을 활용한 대규모 작업 계산 응용이 있다. 이러한 응용의 성공적인 작업 수행과 실시간으로 변화하는 자원 수요에 대처하여 클라우드 자원을 효율적으로 관리하기 위한 오토 스케일링 엔진 개발이 필요하다. 그러나 대부분의 오토 스케일링 엔진은 단순한 하드웨어의 성능을 기반으로 제공되고 있어 클라이언트에 따라 부하를 고려해야한다. 본 논문에는 클라이언트에 따라 가중치를 적용한 동적인 SLA 기반으로 자원 수요를 예측하고 클라우드 자원을 효율적으로 관리하는 오토 스케일링 엔진을 제안한다.

A Study on Structure of Efficient Autoscaling Scheduler Using Request Prediction (리퀘스트 예측을 통한 효율적인 오토스케일링 스케쥴러 구조 연구)

  • Joo, Kyung-No;Youn, Chan-Hyun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2012.11a
    • /
    • pp.280-281
    • /
    • 2012
  • 클라우드 기술이 발달하면서 사용자 요구를 만족하면서도 비용을 절감하기 위해 VM 의 개수를 자동으로 조절해주는 오토스케일링 기술이 부각되었다. 하지만 어떤 VM 을 추가할 것인지는 NP-Hard Problem 으로 휴리스틱하게 풀 수밖에 없다. 따라서 사용자의 실시간으로 변하는 요구에 바로 대처하지 못할 수 있다. 사용자 요구에 실시간적으로 대처하기 위해서는 사용자가 보내는 요청의 패턴을 읽고, 앞으로 올 요청을 미리 아는 기술이 필요하다. 이에 본 논문에서는 리퀘스트 예측을 통한 오토스케일링을 가능케 하도록 구조를 제안하고자 한다.

Transfer Learning Technique for Accelerating Learning of Reinforcement Learning-Based Horizontal Pod Autoscaling Policy (강화학습 기반 수평적 파드 오토스케일링 정책의 학습 가속화를 위한 전이학습 기법)

  • Jang, Yonghyeon;Yu, Heonchang;Kim, SungSuk
    • KIPS Transactions on Computer and Communication Systems
    • /
    • v.11 no.4
    • /
    • pp.105-112
    • /
    • 2022
  • Recently, many studies using reinforcement learning-based autoscaling have been performed to make autoscaling policies that are adaptive to changes in the environment and meet specific purposes. However, training the reinforcement learning-based Horizontal Pod Autoscaler(HPA) policy in a real environment requires a lot of money and time. And it is not practical to retrain the reinforcement learning-based HPA policy from scratch every time in a real environment. In this paper, we implement a reinforcement learning-based HPA in Kubernetes, and propose a transfer leanring technique using a queuing model-based simulation to accelerate the training of a reinforcement learning-based HPA policy. Pre-training using simulation enabled training the policy through simulation experience without consuming time and resources in the real environment, and by using the transfer learning technique, the cost was reduced by about 42.6% compared to the case without transfer learning technique.

An Improvement of Kubernetes Auto-Scaling Based on Multivariate Time Series Analysis (다변량 시계열 분석에 기반한 쿠버네티스 오토-스케일링 개선)

  • Kim, Yong Hae;Kim, Young Han
    • KIPS Transactions on Computer and Communication Systems
    • /
    • v.11 no.3
    • /
    • pp.73-82
    • /
    • 2022
  • Auto-scaling is one of the most important functions for cloud computing technology. Even if the number of users or service requests is explosively increased or decreased, system resources and service instances can be appropriately expanded or reduced to provide services suitable for the situation and it can improves stability and cost-effectiveness. However, since the policy is performed based on a single metric data at the time of monitoring a specific system resource, there is a problem that the service is already affected or the service instance that is actually needed cannot be managed in detail. To solve this problem, in this paper, we propose a method to predict system resource and service response time using a multivariate time series analysis model and establish an auto-scaling policy based on this. To verify this, implement it as a custom scheduler in the Kubernetes environment and compare it with the Kubernetes default auto-scaling method through experiments. The proposed method utilizes predictive data based on the impact between system resources and response time to preemptively execute auto-scaling for expected situations, thereby securing system stability and providing as much as necessary within the scope of not degrading service quality. It shows results that allow you to manage instances in detail.

A Study on Tools for Agent System Development (클라우드 환경에서 오토 스케일링이 가능한 센서 데이터 수집 시스템 설계)

  • Park, Soo-Yong;Choi, Su-Min;Shin, Yong-Tae
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2020.05a
    • /
    • pp.72-74
    • /
    • 2020
  • 센서 네트워크의 센서 개수가 늘어나고 데이터 수집 주기가 짧아지며 데이터의 용량도 늘어남에 따라 데이터를 수집하는 중앙서버의 과부하가 걸리는 현상이 발생할 수 있다. 본 논문에서 제안하는 시스템은 센서 데이터를 수집하는 모듈을 컨테이너화 하여 쿠버네티스로 관리한다. 또한 쿠버네티스의 오토 스케일링 기능을 이용하여 데이터 수집 모듈의 과부하가 발생할 경우 자동으로 수집 모듈을 복사하여 scale out 할 수 있다.

Design of the intranet data center system using auto-scaling method based on virtualization environment (오토스케일링 방법을 적용한 가상화 기반 인트라넷 데이터센터 설계)

  • Keum, Nam-Ho
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2016.04a
    • /
    • pp.38-41
    • /
    • 2016
  • 최근 IT기술 및 웹기술의 발달로 웹서비스 소요의 폭발적인 증가는 신규 사업 및 사업 확장에 초기 투자비용 증가를 가지고 왔다. 이에 가상화 기술을 바탕으로 초기 투자비용 없이 사용한 만큼만 인프라를 빌려오는 AWS같은 IaaS가 제안되었지만 이는 인터넷이 연결되지 않은 인트라넷이나 이미 구축되어 있는 기존자원 활용이 불가능하다는 점, 그리고 사용량을 미리, 정확하게 예측해야 예산낭비를 줄일 수 있다는 점에서 제한사항이 있다. 본 논문에서는 인터넷이 연결되어 있지 않은 인트라넷에서 기존의 장비들을 모아 가상화 데이터 센터를 구축을 제안 및 오토 스케일링 기법을 적용한 데이터센터 운용 방안을 제시함으로 써 현재 자원의 효율 극대화 방안에 대해 논의한다.

A Performance Analysis of Web Applications on Kubernetes with Container Runtimes for Scalable System Design (확장가능한 시스템 설계를 위한 쿠버네티스 컨테이너 런타임별 웹 애플리케이션 성능 분석)

  • Minjae Kang;HyungJun Kim;Heonchang Yu
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2023.11a
    • /
    • pp.75-76
    • /
    • 2023
  • 쿠버네티스는 컨테이너 오케스트레이션 플랫폼으로, 마이크로서비스 운영에 널리 사용된다. 이는 쿠버네티스가 오토스케일링을 지원하여 서비스 제공자가 부하의 변동에 효과적으로 대응할 수 있도록 지원하기 때문이다. 본 논문은 쿠버네티스 환경에서 runc 와 runsc 두 런타임을 대상으로 CPU 및 I/O 집약적 부하를 주는 웹 애플리케이션을 실행하여 처리 성능을 분석했다. 분석 결과 초당 요청 수가 일정 수준을 넘자 성능이 급락하였으며, 이를 바탕으로 워크로드를 고려한 오토스케일링의 필요성을 제고한다.

Telemetering Service in OpenStack (오픈스택 텔레메터링 서비스(Ceilometer))

  • Baek, D.M.;Lee, B.C.
    • Electronics and Telecommunications Trends
    • /
    • v.29 no.6
    • /
    • pp.102-112
    • /
    • 2014
  • 최근 빌링(billing, 과금), 벤치마킹, 확장성(scalability), 통계적 목적을 위해 오픈스택 클라우드의 개별 컴포넌트를 모니터링하고 메터링하는 텔레메터링 서비스가 Ceilometer라는 코드명으로 정식 프로젝트로 추가되었다. 초기의 빌링만을 위해 필수 요소만 모니터링하는 것에서, 상태를 감시하여 클라우드 자원의 오토스케일링 등의 오케스트레이션 기능을 위한 다목적성으로 발전하고 있다. 특히 이것은 빅데이터 등의 데이터 분석에 있어서 중요한 힌트를 제공해 준다. 본고는 소스분석을 통한 Ceilometer의 데이터 수집 구조, Ceilometer 모니터링의 핵심 키워드, 비정형 데이터 DB인 MongoDB, 외부인터페이스로써 API(Application Interface) 혹은 CLI(Command Line Interface) 명령어를 소개하고자 한다. 결론에서는 ceilometer의 전반적 구조에 대한 나름대로의 평가를 기술하였다.

  • PDF