• 제목/요약/키워드: prediction-based dynamic thread pool system

검색결과 3건 처리시간 0.029초

Prediction-based Dynamic Thread Pool System for Massively Multi-player Online Game Server

  • Ju, Woo-Suk;Im, Choong-Jae
    • 한국멀티미디어학회논문지
    • /
    • 제12권6호
    • /
    • pp.876-881
    • /
    • 2009
  • Online game servers usually has been using the static thread pool system. But this system is not fit for huge online game server because the overhead is always up-and-down. Therefore, in this paper, we suggest the new algorithm for huge online game server. This algorithm is based on the prediction-based dynamic thread pool system. But it was developed for web servers and every 0.1 seconds the system prediction the needed numbers of threads and determine the thread pool size. Some experimental results show that the check time of 0.4 seconds is the best one for online game server and if the number of worker threads do not excess or lack to the given threshold then we do not predict and keep the current state. Otherwise we apply the prediction algorithm and change the number of threads. Some experimental results shows that this proposed algorithm reduce the overhead massively and make the performance of huge online game server improved in comparison to the static thread pool system.

  • PDF

효율적인 자원 사용을 위한 예측기반 동적 쓰레드 풀 기법 (Prediction-based Dynamic Thread Pool Model for Efficient Resource Usage)

  • 정지훈;한세영;박성용
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제31권3_4호
    • /
    • pp.213-223
    • /
    • 2004
  • 본 논문에서는 다중 쓰레드 기반의 서버 프로그래밍을 위한 예측 기반의 동적 쓰레드 풀 기법을 제안하였다. 기존의 쓰레드 풀(Thread fool) 모델은 고정된 쓰레드 풀(Hounded Thread Pool)모델로, 서버에 최적화된 개수의 쓰레드를 유지하면서 다수의 요청에 대해 빠르게 응답할 수 있다는 장점이 있으나, 사용자의 접속이 적을 경우에도 고정된 시스템 자원을 점유하여야 하므로, 자원의 효율적인 사용에 문제가 있다. 이를 극복하기 위해 동적으로 쓰레드 풀의 크기를 변경하는 워터마크 쓰레드 풀 모델이 개발되었고, 본 논문에서는 이를 기반으로 지수평균을 사용하여 앞으로 필요한 쓰레드의 개수를 예측하고 쓰레드를 사전에 생성하여 더욱 효율적으로 자원을 활용하도록 하는 예측기반의 동적 쓰레드 풀 기법을 제안하였다. 제안한 기법은 사용자의 요청이 많을 경우 사용자 요청에 대한 응답시간을 빠르게 하구 요청 량이 적을 경우에는 불필요한 자원을 점유하지 않게 하여 기존의 워터마크 쓰레드 풀 모델에 비해 보다 성능이 좋고 자원을 효율적으로 활용함을 실험을 통해 확인하였다.

학습 기반의 동적 쓰레드 풀 기법을 적용한 웹 서버의 설계 및 구현 (Design and Implementation of a Web Server Using a Learning-based Dynamic Thread Pool Scheme)

  • 유서희;강동현;이권용;박성용
    • 한국정보과학회논문지:컴퓨팅의 실제 및 레터
    • /
    • 제16권1호
    • /
    • pp.23-34
    • /
    • 2010
  • 네트워크의 발전에 따라 사용자들이 늘어나게 되면서 웹 서버들은 동시에 접속하는 다수 사용자의 서비스 요청을 처리할 수 있는 다중 쓰레드 기법을 활용하고 있다. 고정된 쓰레드 풀 기법은 고정적인 시스템 자원을 점유해야 하는 문제점이 있다. 반면에 동적으로 쓰레드 풀 기법인 워터마크 쓰레드 풀기법은 사용자의 요청량에 따라 쓰레드 수를 적절하게 조절하지만, 지정한 최대값을 넘는 요청량에 대해서는 응답이 제때에 이루이지지 않는 단점이 있다. 따라서 본 논문에서는 다양한 요청량이 존재하는 다중 쓰레드 환경의 서버 프로그래밍을 위한 학습 기반의 동적 쓰레드 풀 기법을 적용한 웹 서버를 제안한다. 제안하는 기법은 쓰레드 풀을 사용하는 웹 서버 중 아파치(Apache) worker 다중 처리 모듈(Multi processing Module)에 AR(Auto Regressive) 기법을 통해 다음 주기의 작업 요청량을 예측하고 사전에 쓰레드를 생성한다. 기존 기법과 달리, 일정주기의 증감 추세가 없는 작업 요청량에도 필요한 쓰레드의 수를 정확하게 설정하기 위해 최근접 이웃(K-Nearest Neighbor) 알고리즘을 사용하여 작업 요청량에 따른 쓰레드의 수를 사전에 학습한다. 필요한 쓰레드의 수를 설정하기 위해 사전에 학습 되어진 개체들과 비교하여 유사한 개체를 선택하여 예측된 작업 요청량에 따른 쓰레드의 수를 결정하고 쓰레드를 생성한다. 본 논문에서는 필요한 쓰레드의 수를 동적으로 변경함으로써 사용자 응답 시간을 빠르게 하고, 사용자의 요청량에 맞게 쓰레드 수를 관리함으로써 시스템 자원의 활용도를 높일 수 있다.