• 제목/요약/키워드: queue scheduling

검색결과 169건 처리시간 0.029초

빅데이터 환경에서 스트림 질의 처리를 위한 인메모리 기반 점진적 처리 기법 (In-Memory Based Incremental Processing Method for Stream Query Processing in Big Data Environments)

  • 복경수;육미선;노연우;한지은;김연우;임종태;유재수
    • 한국콘텐츠학회논문지
    • /
    • 제16권2호
    • /
    • pp.163-173
    • /
    • 2016
  • 최근 대용량의 스트림 데이터를 분산 처리하기 위한 연구들이 진행되고 있다. 본 논문에서는 빅데이터 환경에서 실시간 스트림 데이터의 점진적 처리 기법을 제안한다. 제안하는 기법은 처음 스트림 데이터가 입력되면 임시 큐에 데이터를 저장하고 마스터 노드에 저장되어 데이터와 비교과정을 통해 마스터 노드에 동일한 데이터가 있는 경우 마스터 노드에서 가지고 있는 노드의 정보를 이용하여 해당 노드의 메모리에서 기존 처리 결과를 재사용한다. 기존 처리 결과가 없다면 처리하고 처리 결과를 메모리에 저장한다. 분산 환경에서 점진적인 스트리밍 데이터 처리를 위해 노드의 작업 지연을 계산하여 노드의 부하를 파악하고 처리 시간 계산을 통해 각 노드의 성능을 고려한 잡 스케쥴링 기법을 제안한다. 제안하는 기법의 우수성을 보이기 위해 기존 기법과의 질의 수행 시간 비교를 위한 성능평가를 수행한다.

하둡 기반 대규모 작업 배치 및 처리 기술 설계 (Design of a Large-scale Task Dispatching & Processing System based on Hadoop)

  • 김직수;구엔 카오;김서영;황순욱
    • 정보과학회 논문지
    • /
    • 제43권6호
    • /
    • pp.613-620
    • /
    • 2016
  • 본 논문에서는 대규모의 작업을 고성능으로 처리하기 위한 Many-Task Computing(MTC) 기술을 기존의 빅데이터 처리 플랫폼인 Hadoop에 적용하기 위한 MOHA(Many-Task Computing on Hadoop) 프레임워크에 대해 기술한다. 세부적으로는 MOHA의 기본 개념과 개발 동기, 분산 작업 큐에 기반한 PoC(Proof-of-Concept) 수행 결과를 제시하고 향후 연구 방향에 대해서 논의하고자 한다. MTC 응용은 각각의 태스크들이 요구하는 I/O 처리량은 상대적으로 많지 않지만, 동시에 대량의 태스크들을 고성능으로 처리해야하고 이들이 파일을 통해서 통신한다는 특징을 가지고 있다. 따라서 기존의 상대적으로 큰 데이터 블록 사이즈에 기반한 Hadoop 응용과는 또 다른 패턴의 데이터 집약형 워크로드라고 할 수 있다. 이러한 MTC 기술과 빅데이터 기술의 융합을 통해 멀티 응용 플랫폼으로 진화하고 있는 Hadoop 생태계에 신규 프레임워크로서 대규모 계산과학 응용을 실행할 수 있는 MOHA를 추가하여 기여할 수 있을 것이다.

클래스 기반의 대역 제한 기법을 통한 이메일 서버의 보호 (Protecting E-mail Server with Class-Based Rate Limiting Technique)

  • 임강빈;이창희;김종수;최경희;정기현
    • 대한전자공학회논문지TC
    • /
    • 제41권6호
    • /
    • pp.17-24
    • /
    • 2004
  • 본 논문에서는 CBQ (Class Based Queuing) 알고리즘을 이용하여 DDoS 공격으로부터 메일 서버를 보호할 수 있는 효과적인 방법을 제안한다. 제안하는 방법에서는 메일 서버로 입력되는 트래픽을 중요한 메일 트래픽, 덜 중요한 메일 트래픽, 그 외의 공격의 가능성이 있는 알 수 없는 트래픽으로 구분하고 이들 각 트래픽에 서로 다른 대역폭을 할당함으로써 DDoS 공격 하에서도 정상적인 메일의 송신을 가능하게 한다. 제안하는 방법은 입출력 포트의 대역폭을 별도의 서비스(트래픽 클래스)마다 분산 할당하는 데에 유용한 가중치 사용 라운드 로빈 큐 스케줄링을 이용하는 WFHBD(Weighted Fair Hashed Bandwidth Distribution) 엔진을 고속 스위칭 프로세서를 내장한 임베디드 시스템에서 사용하고 실험을 통하여 DDoS 공격으로부터 메일 서버가 효율적으로 보호될 수 있음을 검증한다.

IEEE 802.15.3 고속 무선 PAN(Personal Area Network)에서 링크상태에 따른 동적 채널할당 (Dynamic Channel-Time Assignments based on the link status in IEEE 802.15.3 High-rate WPAN)

  • 곽동원;이승형
    • 한국통신학회논문지
    • /
    • 제29권7A호
    • /
    • pp.844-851
    • /
    • 2004
  • 무선통신에서의 전송 매체인 air interface는 주위의 여러 환경적인 요인에 의해서 다양한 에러가 존재할 수 있다. 이러한 조건에서는 채널에 대한 신뢰도가 유선일 때보다 크게 떨어지며 더욱이 ad hoc 환경인 IEEE 802.15.3 High-rate WPAN에서는 이러한 에러에 대한 의존도가 더욱 클 수 있다. 이미 WLAN에서 이와 관련된 연구가 있었으며 그 중 하나가 각 무선 노드들의 큐 상태에 따라서 큐의 크기가 크다면 채널 상태가 나쁘다고 판단하고 그 무선 노드에게 할당할 리소스를 줄이는 방법이나. 이는 중앙의 controller가 항상 각 노드들을 모니터링하고 있어야 하는 단점이 있다. 그래서 이러한 단점을 보완하고자 본 논문에서는 무선 이동노드의 위치에 의해 달라지는 링크의 에러 상태에 따라 controller가 노드들에게 할당하는 채널 시간의 크기를 동적으로 변화시켜서 piconet 전체의 throughput을 향상시킬 수 있는 MAC을 제안한다.

무선 센서 네트워크에서 QoS를 인지하는 Cross-layer MAC 프로토콜 (QoS Aware Cross-layer MAC Protocol in wireless Sensor Networks)

  • 박현주;김성철
    • 한국정보통신학회논문지
    • /
    • 제14권12호
    • /
    • pp.2811-2817
    • /
    • 2010
  • 논문에서는 다중의 sink 노드를 가지는 무선 센서 네트워크에서 서비스의 질(Quality of Service: QoS)을 지원하면서 에너지 소모를 줄이는 MAC 프로토콜(QAC-MAC)을 제안한다. 일반적으로 데이터 수집 네트워크에서 sink 노드근처의 노드들은 많은 양의 데이터를 처리해야 하므로 sink 노드 부근에서 혼잡이 발생하게 되어 지연에 민감한 데이터에 치명적일 수가 있다. QAC-MAC은 센서 노드들의 에너지 자원을 절약하면서 전체 네트워크 수명을 높이기 위하여 매체 접근 및 스케줄링을 위하여 경쟁기반 프로토콜과 충돌없이 데이터를 전송하기 위한 TDMA 기반의 데이터 전송 구조를 가지는 하이브리드 메커니즘을 사용한다. 일반적으로 우선순위가 높은 실시간 트래픽은 버스티하고 동일한 목적지를 가지는 특성을 가진다. QAC-MAC은 cross-layer 개념을 도입하여 각 센서 노드에서 동일한 목적지로 향하는 데이터를 재정돈하여 가능한 적은 노드들만이 데이터 전송에 참여함으로 에너지를 절약함으로 전체 네트워크 수명을 연장한다.

엔터프라이즈 네트워크에서 패킷 지연시간을 최소화하는 공정 큐잉 알고리즘 (Fair Queuing Algorithm Minimizing Packet Delay in Enterprise Network)

  • 윤여훈;김태윤
    • 정보처리학회논문지C
    • /
    • 제9C권1호
    • /
    • pp.21-30
    • /
    • 2002
  • 오늘날 네트워크에서 다양한 애플리케이션의 서비스 성능을 저하시키는 불공정 큐잉 문제를 해결하기 위해 공정 큐잉 분야가 활발히 연구중이다. 그 중에서 DRR(Deficit Round Robin)은 작업 복잡도가 낮고 구현이 간단한 기법으로 매 라운드마다 각 큐에 대해 이전 라운드에서의 서비스 결손량을 포함한 서비스 할당량 SQ(Service Quantum)만큼을 서비스하도록 하여 다양한 트래픽들에 대해 정확한 공정성을 보장하는 기법이다. 그러나 엔터프라이스 네트워크 환경에서 최대 수 kbyte 이상의 패킷 사이즈를 가지는 서비스에 대해 불필요한 SQ 재설정 횟수 및 라운드 순회 횟수로 인한 지연시간 증가를 일으킨다. 본 논문에서는 이러한 DRR의 문제를 최소화하기 위해 SQ를 동적으로 설정하는 기법 및 패킷을 처리하는데 있어서의 작업 복잡도를 최소화하는 기법을 제안한다. 제안한 기법은 SQ의 동적 설정과 보다 단순한 패킷 처리로 인해 엔터프라이즈 네트워크 환경에서 다양한 애플리케이션들에 대한 지연시간을 최소화한다.

시뮬레이션 도구 SMPLE의 개발 및 활용

  • 조성만
    • 한국시뮬레이션학회:학술대회논문집
    • /
    • 한국시뮬레이션학회 1992년도 제2회 정기총회 및 추계학술 발표회 발표논문 초록
    • /
    • pp.3-3
    • /
    • 1992
  • 컴퓨터 시스템의 개발 및 분석에 많이 활용되는 시뮬레이션 모델을 구축하는데 있어서 SIMSCRIT, GISS, SIMAN, SLA II등과 같은 시뮬레이션 전용언어가 많이 사용되지만, 이들은 새로운 전용언어의 습득, 시스템 프로그램과의 접속, 시뮬레이션 수행 속도면에서 부담을 주어왔다. 본 연구에서는 기존의 C언어 사용자들이 손쉽게 시뮬레이션 모델을 구축할 수 있도록 기존의 smpl을 확장하여 SMPLE(smpl extended)를 개발하였다. SMPLE의 모체의 smpl은 컴퓨터 시스템의 시뮬레이션 모델을 구현하기 위해 MIT에서 C언어를 이용하여 고안되었으며, C언어의 기능적인 확장으로서 라이브러리 함수들의 집합 형태를 갖는 시뮬레이션 서브 시스템이다. 이러한 라이브러리 함수들의 집합인 smpl 시뮬레이션 서브 시스템은 C언어 자체와 더불어 사건중심(event-oriented) 시뮬레이션 언어를 구성하며, smpl 시뮬레이터는 C 언어 프로그램으로 구현되다. smpl은 시뮬레이션하기 위한 설비(facility)들을 정의, 예약, 해제하거나 상태를 알아보는 함수를 제공하며, 시간의 관점에서 보면 토큰의 흐름은 일련의 대기시간과 활동시간에 의하여 나타낼 수 있게 된다. smpl은 사건의 스케쥴링(scheduling), 확률변수의 생성, 통계자료 수집 등에 관한 함수의 제공과, 시뮬레이션 시간의 전진과 사건발생의 순서를 조절해주는 기능을 제공한다. smpl 시뮬레이션 프로그램은 초기화루틴, 제어루틴 및 결과출력루틴으로 구성된다. 기존의 smpl에서 사용되는 프로그램의 자료구조(data structure)는 배열과 인덱스 구조가 사용되었다. 이러한 구조는 이미 완성되어 있는 프로그램 내에서는 효율성 면에서 좋겠지만, 변경이나 확장하기 위해 이 프로그램을 분석한다거나 필요한 기능을 추가하기 위해서는 매우 많은 어려움이 따르게 된다. 본 논문에서는 배열을 기반으로 하고 있는 smpl의 자료구조를 C의 structure와 pointer를 기반으로 하게끔 변경시키고 이에 따르는 제반 변경 사항을 수정 보완하여 프로그램의 분석을 용이하게 하며 기능의 변경 및 추가가 수월하게 하였고 메모리를 동적으로 관리할 수 있게 하였다. 또한 기존의 smpl에 디버깅용 함수 및 설비(facility) 제어용 함수를 추가하여 시뮬레이션 프로그램 작성을 용이하게 하였다. 예를 들면 who_server(), who_queue(), pop_Q(), push_Q(), pop_server(), push_server(), we(), wf(), printfct() 같은 함수들이다. 또한 동시에 발생되는 사건들의 순서를 조종하기 위해, 동시에 발생할 수 있는 각각의 사건에 우선순위를 두어 이 우선 순위에 의하여 사건 리스트(event list)에서 자동적으로 사건들의 순서가 결정되도록 확장하였으며, 설비 제어방식에 있어서도 FIFO, LIFO, 우선 순위 방식등을 선택할 수 있도록 확장하였다. SIMPLE는 자료구조 및 프로그램이 공개되어 있으므로 프로그래머가 원하는 기능을 쉽게 추가할 수 있는 장점도 있다. 아울러 SMPLE에서 새로이 추가된 자료구조와 함수 및 설비제어 방식등을 활용하여 실제 중형급 시스템에 대한 시뮬레이션 구현과 시스템 분석의 예를 보인다.

  • PDF

SAN을 이용한 제한된 버퍼 크기를 갖는 출력큐잉 ATM 스위치 성능평가 (Performance Evaluation of Output Queueing ATM Switch with Finite Buffer Using Stochastic Activity Networks)

  • 장경수;신호진;신동렬
    • 한국정보처리학회논문지
    • /
    • 제7권8호
    • /
    • pp.2484-2496
    • /
    • 2000
  • 네트워크 연결을 위한 고속 스위치는 계속해서 발달하여 왔으며, 스위치가 필요한 성능을 내는가를 여러 조건으로 분석하는 것은 중요한 일이다. 하지만, 복잡한 구조를 가진 시스템을 모델링하여 그 성능을 측정하는 것은 쉬운 일이 아니다. 큐잉이론을 이용한 모델링은 큰 상태 공간을 고려해야 됨은 물론이고 성능평가에 있어서도 복잡한 계산과정을 수행해야 하지만, SAN(Stochastic Activity Networks)에 의한 모델링과 성능평가는 그에 비해 간단하다는 장점이 있다. 본 논문의 목적은 출력포트에 큐를 갖는 고속 ATM 스위치를 확장된 SPN(Stochastic Petri Net)인 SAN을 이용해 모델링하고, 셀 도착 과정은 실제 트래픽과 유사한 특징을 가지고 있는 MMPP(Markov Modulated Poisson Process)로 모델링하여 그 성능을 평가하는데 있다. MMPP 모델을 이용한 버스티 트래픽을 고겨한 성능측정과 아울러 SAN의 장점을 이용한 확장이 용이한 스위치 모델을 보이고자 한다. 제한된 버퍼 크기를 갖는 출력 큐잉 ATM 스위치에 도착하은 셀은 포아송 도착 과정에서는 정확히 표현할 수 없는 버스티 특징을 표현할 수 있어 좀더 실제 트래픽에 가까운 MMPP로 모델링한다. SAN 모델은 UltraSAN 소프트웨어 패키지를 이용해 대기행렬의크기, 지연시간 그리고 셀 손실률에 대한 성능을 측정한다.

  • PDF

두개의 우선 순위를 가지는 고속 스윗칭 시스템의 설계 및 성능 분석 (Design and Analsis of a high speed switching system with two priority)

  • 홍요훈;최진식;전문석
    • 정보처리학회논문지C
    • /
    • 제8C권6호
    • /
    • pp.793-805
    • /
    • 2001
  • 기존 우선 순위 시스템에서는 우선 순위가 높은 패킷이 시스템에서 우선적으로 서비스를 받고 우선 순위가 낮은 패킷은 우선 순위가 높은 패킷이 없을 경우에만 서비스 받도록 되어있다. 그러나 입력 큐잉 시스템에서는 HOL(Head of Line)경쟁에 의해서 우선 순위가 높은 패킷이라도 차단 될 확률이 높다. 따라서 우선 순위가 높은 패킷이 차단됐을 경우라도 우선 순위가 낮은 패킷을 서비스 해 줌으로써 전체적으로 스윗칭 성능을 향상 시킬 수 있다. 본 논문은 고속 스위칭 시스템에서의 우선순위 기반 방식의 성능 분석을 하였다. 스윗칭 시스템 분석은 HOL(Head of line)경쟁 현상에 대한 우선순위 스케쥴링이 미치는 영향을 고려 하였다. 또한 이러한 제어방식을 기반으로 시스템의 최대 처리율, 큐잉 분포현상을 도출 하였다. 입력단 간에 서비스 의존도 때문에 스윗칭 시스템의 정확한 분석은 어려우나 상호 의존성을 갖는다는 가정과 흐름제어 규정을 두어 분석을 하였다. 각각의 입력단에서 보여주는 서비스 향상을 평가 하기위해 큐잉 시스템을 이용 하였다. 윈도우 방식을 고려하지 않고 우선순위 방식에서 정확한 결과를 구하기 위하여 Chen과Guerin[1]가 사용한 방식을 확장 하였다. 더욱이 시스템 구현과 운영 관점에서 우선순위 스윗칭 시스템에 적용하기 위하여 새로운 윈도우 제어방식을 제안한다. 그러므로 우선순위가 낮은 패킷은 지연시간과 처리율을 향상 시킬 수 있다. 성능 향상을 위해 결과치를 비교하여 등가 큐잉시스템을 사용하여 윈도우 방식을 분석 하였다.

  • PDF