• 제목/요약/키워드: Computing amount

검색결과 694건 처리시간 0.026초

대용량 천문 관측 자료처리를 위한 클라우드 기반 자동화 시스템 (Cloud-Based Automation System to Process Data from Astronomy Observation)

  • 염재근;유정록;임홍서;김명진;박진태;이희재;문홍규;최영준;노동구;오영석;배영호
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제23권1호
    • /
    • pp.45-56
    • /
    • 2017
  • 천문학 분야에서 광시야망원경을 통해 관측된 자료들의 양은 기하급수적으로 늘어나고 있다. 그러나 고정된 소규모의 컴퓨팅 환경과 자료 분석 도구들의 복잡성은 대용량 관측 자료들을 효율적으로 처리하는데 어려움을 야기한다. 본 논문에서는 이러한 문제점을 해결하기 위해, 대용량 천문 관측 자료처리를 위한 클라우드 기반의 자동화 시스템을 제안한다. 본 논문에서 제안한 시스템은 관측 자료 분석에 필요한 워크플로우 템플릿의 관리 및 실행 제어를 위한 워크플로우 실행 관리자(Workflow Execution Manager)와 관측 자료 분석 요청 량에 따라 동적으로 계산자원의 할당/반납이 가능한 탄력적 자원 관리자(Elastic Resource Manager)로 구성된다. 또한 동적 자원 할당 추이, 시스템 부하 등의 다양한 실험 및 결과 분석을 통해 제안한 시스템의 유효성을 검증하고, DEEP-SOUTH 스케쥴링 시스템에의 적용 사례를 기술한다.

이기종 컴퓨팅을 활용한 환율 예측 뉴럴 네트워크 구현 (Implementation of Exchange Rate Forecasting Neural Network Using Heterogeneous Computing)

  • 한성현;이광엽
    • 예술인문사회 융합 멀티미디어 논문지
    • /
    • 제7권11호
    • /
    • pp.71-79
    • /
    • 2017
  • 본 논문에서는 이기종 컴퓨팅을 활용한 환율 예측 뉴럴 네트워크를 구현했다. 환율 예측에는 많은 양의 데이터가 필요하다. 그에 따라 이러한 데이터를 활용할 수 있는 뉴럴 네트워크를 사용했다. 뉴럴 네트워크는 크게 학습과 검증의 두 과정을 거친다. 학습은 CPU를 활용했다. 검증에는 Verilog HDL로 작성된 RTL을 FPGA에서 동작 시켰다. 해당 뉴럴 네트워크의 구조는 입력 뉴런 네 개, 히든 뉴런 네 개, 출력 뉴런 한 개를 가진다. 입력 뉴런에는 미국 1달러, 일본 100엔, EU 1유로, 영국 1파운드의 원화 가치를 사용했다. 입력 뉴런들을 통해 캐나다 1달러의 원화가치를 예측 했다. 환율을 예측 하는 순서는 입력, 정규화, 고정 소수점 변환, 뉴럴 네트워크 순방향, 부동 소수점 변환, 역정규화, 출력 과정을 거친다. 2016년 11월의 환율을 예측한 결과 0.9원에서 9.13원 사이의 오차 금액이 발생했다. 환율 이외의 다른 데이터를 추가해 뉴런의 개수를 늘린다면 더 정확한 환율 예측이 가능할 것으로 예상된다.

데이터 분배 및 태스크 진행 스케쥴링을 통한 맵/리듀스 모델의 성능 향상 (Improving the Map/Reduce Model through Data Distribution and Task Progress Scheduling)

  • 황인성;정경용;임기욱;이정현
    • 한국콘텐츠학회논문지
    • /
    • 제10권10호
    • /
    • pp.78-85
    • /
    • 2010
  • Map/Reduce 는 최근에 많은 주목을 받고 있는 클라우드 컴퓨팅을 구현하는 프로그래밍 모델이다. 이 모델은 여러 대의 컴퓨터를 이용해서 규모가 큰 데이터를 처리하는 어플리케이션에서 사용된다. 따라서 구성된 컴퓨터들을 효율적으로 사용하기 위해서 데이터를 적당한 크기로 나눈 다음 각각의 컴퓨터에 효율적으로 분배시키는 과정을 결정하는 것이 중요하다. 또한 모델을 구성하고 있는 Map 단계와 Reduce 단계를 실행하는 계획도 성능에 많은 영향을 줄 수 있다. 본 논문에서는 대용량의 데이터를 분리해서 Map 태스크를 실행하는 클라우드 컴퓨팅 노드의 성능과 네트워크의 상태를 고려한 후 각각의 컴퓨팅 노드에게 효율적으로 분배하는 방법을 제안한다. 그리고 Map 단계와 Reduce 단계에서 진행하는 방식을 튜닝하여 Reduce 작업의 처리속도를 향상시켰다. 제안된 방법은 대표적인 두 개의 Map/Reduce 어플리케이션을 이용하여 실험하고 조건에 따라 성능에 어떠한 결과를 미치는지 평가했다.

Self-organization Scheme of WSNs with Mobile Sensors and Mobile Multiple Sinks for Big Data Computing

  • Shin, Ahreum;Ryoo, Intae;Kim, Seokhoon
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권3호
    • /
    • pp.943-961
    • /
    • 2020
  • With the advent of IoT technology and Big Data computing, the importance of WSNs (Wireless Sensor Networks) has been on the rise. For energy-efficient and collection-efficient delivery of any sensed data, lots of novel wireless medium access control (MAC) protocols have been proposed and these MAC schemes are the basis of many IoT systems that leads the upcoming fourth industrial revolution. WSNs play a very important role in collecting Big Data from various IoT sensors. Also, due to the limited amount of battery driving the sensors, energy-saving MAC technologies have been recently studied. In addition, as new IoT technologies for Big Data computing emerge to meet different needs, both sensors and sinks need to be mobile. To guarantee stability of WSNs with dynamic topologies as well as frequent physical changes, the existing MAC schemes must be tuned for better adapting to the new WSN environment which includes energy-efficiency and collection-efficiency of sensors, coverage of WSNs and data collecting methods of sinks. To address these issues, in this paper, a self-organization scheme for mobile sensor networks with mobile multiple sinks has been proposed and verified to adapt both mobile sensors and multiple sinks to 3-dimensional group management MAC protocol. Performance evaluations show that the proposed scheme outperforms the previous schemes in terms of the various usage cases. Therefore, the proposed self-organization scheme might be adaptable for various computing and networking environments with big data.

클라우드 컴퓨팅 서비스의 가용성 최적화를 위한 모델링 및 시뮬레이션 (A study of Modeling and Simulation for the Availability Optimization of Cloud Computing Service)

  • 장은영;박춘식
    • 한국시뮬레이션학회논문지
    • /
    • 제20권1호
    • /
    • pp.1-8
    • /
    • 2011
  • 클라우드 컴퓨팅은 장소나 장비에 제한 없이 네트워크를 통해 IT자원을 서비스 형태로 제공받을 수 있는 새로운 패러다임이다. 클라우드 컴퓨팅 환경은 데이터센터에 많은 IT자원이 집약된 형태로 효율적인 인프라구조를 위한 기술과 정책을 적용하여 시스템을 설계해야 한다. 즉, 클라우드 서비스를 효율적으로 제공하여 사용자의 요구를 만족시켜야 하며, 사업자는 불필요하게 낭비되는 자원으로 인한 손해가 없어야 한다. 그러나 최적 시스템을 구축하기 위해서는 서비스를 배포하기 전에 서비스 제공 성능과 자원 사용의 효율성을 예측할 수 있어야 한다. 본 논문에서는 이러한 클라우드 컴퓨팅 시스템 설계과정의 문제를 해결하기 위해 네트워크 환경에서의 클라우드 서비스 모델을 모델링하고 클라우드 서비스의 가용성 최적화를 위해 가용성 평가 지표를 산출하였다. 또한 클라우드 환경이 적용된 CloudSim 시뮬레이터를 이용해 클라우드 컴퓨팅 서비스 요구와 데이터센터 성능에 대한 가용성을 최적화하는 방법을 모색하였다.

소형 엣지컴퓨팅을 이용한 미세먼지 모니터링 시스템 개발 (Development of Fine Dust Monitoring System Using Small Edge Computing)

  • 황기환
    • Journal of Platform Technology
    • /
    • 제8권4호
    • /
    • pp.59-69
    • /
    • 2020
  • 최근 초미세먼지 및 미세먼지에 대한 심각성은 국가적 차원의 재난으로 대두되고 있으나 지방 중소도시는 면적에 비해 미세먼지 측정소가 부족하여 미세먼지관리가 어려운 측면이 있다. 미세먼지 데이터의 수집과 처리를 위한 컴퓨팅자원은 규모가 크지않지만 데이터를 공유를 위하여 클라우드와 민간 및 공공데이터를 활용하는 것이 필요하다. 본 논문에서는 미세먼지 및 초미세먼지 그리고 온·습도를 측정하여 이를 처리하여 미세먼지 실시간 관제와 대국민서비스할 수 있는 소형 엣지컴퓨팅 시스템을 제안하였다. 미세먼지 데이터의 수집과 공공 및 민간데이터를 활용하여 미세먼지 등급을 서비스하는 것은 데이터양이 크지 않고 처리부하가 크지 않기 때문에 라즈베리파이를 이용한 엣지컴퓨팅으로 처리하는 것이 효율적이다. 실험을 위하여 3가지 센서와 라즈베리파이 그리고 Thinkspeak를 이용하여 실험시스템을 구성하였으며 경북북부권지역에 대한 미세먼지 측정을 실험하였다. 실험결과 민간의 GIS데이터 기반에 시간에 따른 측정된 미세먼지 측정결과가 정확하게 확인되었다.

  • PDF

맵리듀스를 사용한 데이터 큐브의 효율적인 계산 기법 (Efficient Computation of Data Cubes Using MapReduce)

  • 이기용;박소정;박은주;박진경;최연정
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제3권11호
    • /
    • pp.479-486
    • /
    • 2014
  • 맵리듀스(MapReduce)는 대용량 데이터를 다수의 컴퓨터로 병렬 처리하는 데 사용되는 프로그래밍 모델이다. 데이터 큐브(Data Cube)는 대용량 데이터 분석에 널리 사용되는 연산자로서, 주어진 차원 애트리뷰트들의 모든 가능한 조합에 대한 group-by들을 계산한다. 차원 애트리뷰트의 개수가 n일 때, 데이터 큐브는 총 $2^n$개의 group-by를 계산한다. 본 논문은 맵리듀스를 사용하여 데이터 큐브를 효율적으로 계산하는 방법을 제안한다. 제안 방법은 $2^n$ 개의 group-by를 $_nC_{{\lceil}n/2{\rceil}}$개의 그룹으로 분할하고, 이 그룹들을 ${\lceil}n/2{\rceil}$개의 맵리듀스 잡(job)을 통해 단계적으로 계산한다. 제안 방법은 기존 방법에 비해 맵퍼(mapper)가 생성하는 중간결과의 크기를 크게 줄임으로써 중간결과의 전송 및 정렬에 드는 비용을 크게 줄인다. 그에 따라 데이터 큐브를 계산하는 총 수행시간이 크게 감소된다. 실험을 통해 제안 방법이 기존 방법에 비해 더 빠르게 데이터 큐브를 계산함을 보인다.

방대한 IoT 장치 기반 환경에서 효율적인 빅데이터 수집 기법 설계 (Design of Efficient Big Data Collection Method based on Mass IoT devices)

  • 최종석;신용태
    • 한국정보전자통신기술학회논문지
    • /
    • 제14권4호
    • /
    • pp.300-306
    • /
    • 2021
  • IT기술의 발달로 인해 최근 IoT 장비에 적용되는 하드웨어 기술이 저비용, 고성능 RF 및 연산장치를 사용한 스마트 시스템들로 변화되고 있다. 그러나 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 빅데이터 수집은 전송되는 데이터간 병목현상으로 인해 수집 서버의 부하가 발생한다. 이로인해 데이터수집 서버로 전송되는 데이터는 패킷 손실 및 데이터 처리율 감소 현상이 발생한다. 따라서 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 효율적인 빅데이터 수집 기법이 필요하다. 이에 본 논문에서는 방대한 양의 IoT 장비들이 설치된 인프라 환경에서 효율적인 빅데이터 수집 기법을 제안한다. 성능평가 결과, 제안하는 기법의 패킷 손실 및 데이터 처리율은 전송되는 파일의 손실없이 전송이 완료된다. 향후 본 설계를 기반으로 시스템이 구현이 필요하다.

고가용성 솔루션 구축을 위한 그리드 측면에서의 소프트웨어 아키텍처를 통한 로드밸랜싱 구현 (Software Architecture for Implementing the Grid Computing of the High Availability Solution through Load Balancing)

  • 이병엽;박준호;유재수
    • 한국콘텐츠학회논문지
    • /
    • 제11권3호
    • /
    • pp.26-35
    • /
    • 2011
  • 인터넷 환경의 급속한 발전과 더불어 국내외 미션 크리티컬한 비즈니스 환경이 온라인에 의해 서비스되고 있다. 반면 단일 환경 서버환경의 구축을 통해 비효율적인 IT Resources들의 자원 낭비가 가중되고 있는 현실이다. 따라서 웹 환경을 통해 처리되어야 할 정보의 양의 급증과, 이의 처리를 위해 여러 개의 단일 서버를 고속의 네트워크로 연결한 고가용성 구현이 가능한 클러스터 컴퓨팅 시스템이 등장하게 되었다. 하지만 클러스터 컴퓨팅 기술의 다소 제한적인 IT Resource의 단점을 가지고 있다. 이러한 단점을 보완하기 위하여 그리드 컴퓨팅 환경은 기존의 분산 컴퓨팅 기술의 확장된 개념으로, 다양한 분야에서 저비용의 고성능 컴퓨팅 퍼포먼스를 얻기 위하여 그리드를 이용하고 있다. 그러나 공통적으로 이용할 수 있는 정보 시스템의 부재로, 현재의 그리드는 대규모의 단일한 환경으로서의 그리드가 아닌, 기존의 클러스터 컴퓨터와 같은 의미로 사용되고 있다. 따라서 자신이 구성한 분산 컴퓨팅 환경을 그리드 환경의 한 부분으로 포함시키기 위해서는 컴퓨팅 환경에 대한 정보를 그리드의 이용자가 공유할 수 있어야 하며, 정보 서비스를 공개하여 공유할 수 있도록 해야 한다. 본 논문에서는 Grid 기술을 통하여 데티터베이스 로드밸런싱 목표치에 대한 검증을 제시하고 향후 고가용성 데이터베이스 구현을 위한 아키텍처를 제시한다.

클라우드 환경에서 다중 클라이언트를 위한 동적 전원관리 시스템 (A Dynamic Power Management System for Multiple Client in Cloud Computing Environment)

  • 차승민;이봉환
    • 한국정보통신학회논문지
    • /
    • 제16권2호
    • /
    • pp.213-221
    • /
    • 2012
  • 본 논문에서는 클라우드 컴퓨팅 환경에서 효율적인 에너지 절감을 위한 동적 전원관리 시스템을 제안한다. 제안한 시스템은 사용자에게 할당된 가상 머신 운용을 위한 키보드와 마우스의 움직임을 감지하고, 가용메모리와 CPU 활용률을 모니터링하게 된다. 만약 시스템이 일정 시간동안 키보드와 마우스의 움직임을 감지하지 못하거나, CPU와 가용 메모리가 미리 정의된 임계값에 도달하게 되면 가상머신 관리자 프로그램은 클라이언트에게 종료 명령을 내리게 되어 상당한 전력절감이 가능하다. 개발된 시스템은 대학 내 실제 컴퓨터 실습실에 적용하여 그 성능을 평가하였다.