• Title/Summary/Keyword: 분산연산

Search Result 419, Processing Time 0.037 seconds

Performance Evaluation: Parameter Sharding approaches for DNN Models with a Very Large Layer (불균형한 DNN 모델의 효율적인 분산 학습을 위한 파라미터 샤딩 기술 성능 평가)

  • Choi, Ki-Bong;Ko, Yun-Yong;Kim, Sang-Wook
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2020.11a
    • /
    • pp.881-882
    • /
    • 2020
  • 최근 딥 러닝 (deep learning) 기술의 큰 발전으로 기존 기계 학습 분야의 기술들이 성공적으로 해결하지 못하던 많은 문제들을 해결할 수 있게 되었다. 이러한 딥 러닝의 학습 과정은 매우 많은 연산을 요구하기에 다수의 노드들로 모델을 학습하는 분산 학습 (distributed training) 기술이 연구되었다. 대표적인 분산 학습 기법으로 파라미터 서버 기반의 분산 학습 기법들이 있으며, 이 기법들은 파라미터 서버 노드가 학습의 병목이 될 수 있다는 한계를 갖는다. 본 논문에서는 이러한 파라미터 서버 병목 문제를 해결하는 파라미터 샤딩 기법에 대해 소개하고, 각 기법 별 학습 성능을 비교하고 그 결과를 분석하였다.

Implementation and Optimization of Distributed Deep learning based on Multi Layer Neural Network for Mobile Big Data at Apache Spark (아파치 스파크에서 모바일 빅 데이터에 대한 다계층 인공신경망 기반 분산 딥러닝 구현 및 최적화)

  • Myung, Rohyoung;Ahn, Beomjin;Yu, Heonchang
    • Proceedings of The KACE
    • /
    • 2017.08a
    • /
    • pp.201-204
    • /
    • 2017
  • 빅 데이터의 시대가 도래하면서 이전보다 데이터로부터 유의미한 정보를 추출하는 것에 대한 연구가 활발하게 진행되고 있다. 딥러닝은 텍스트, 이미지, 동영상 등 다양한 데이터에 대한 학습을 가능하게 할 뿐만 아니라 높은 학습 정확도를 보임으로써 차세대 머선러닝 기술로 각광 받고 있다. 그러나 딥러닝은 일반적으로 학습해야하는 데이터가 많을 뿐만 아니라 학습에 요구되는 시간이 매우 길다. 또한 데이터의 전처리 수준과 학습 모델 튜닝에 의해 학습정확도가 크게 영향을 받기 때문에 활용이 어렵다. 딥러닝에서 학습에 요구되는 데이터의 양과 연산량이 많아지면서 분산 처리 프레임워크 기반 분산 학습을 통해 학습 정확도는 유지하면서 학습시간을 단축시키는 사례가 많아지고 있다. 본 연구에서는 범용 분산 처리 프레임워크인 아파치 스파크에서 데이터 병렬화 기반 분산 학습 모델을 활용하여 모바일 빅 데이터 분석을 위한 딥러닝을 구현한다. 딥러닝을 구현할 때 분산학습을 통해 학습 속도를 높이면서도 학습 정확도를 높이기 위한 모델 튜닝 방법을 연구한다. 또한 스파크의 분산 병렬처리 효율을 최대한 끌어올리기 위해 파티션 병렬 최적화 기법을 적용하여 딥러닝의 학습속도를 향상시킨다.

  • PDF

Improved Visual Cryptography Using Cover Images (커버영상을 이용한 개선된 시각암호)

  • Jang, Si-Hwan;Choi, Yong Soo;Kim, Hyoung Joong
    • Journal of Digital Contents Society
    • /
    • v.13 no.4
    • /
    • pp.531-538
    • /
    • 2012
  • Visual cryptography is a scheme that recovers secret image through human vision by overlapping distributed share images without cryptographic operations. Distribution methods are still being developed for improving quality of shared images keeping size of images invariant and enhancing robustness against resize of images. Since visual cryptography only uses shared images, this fact is exploited to attack. From this fact, a scheme safe for sharing distributed images is needed. In this paper, a new visual cryptographic scheme using cover image is proposed. This scheme reduces the chance of detection against steganalysis and increases security. In addition, this paper shows that the proposed scheme can completely decrypt secret image without creating noise.

Research on the Protective Relay considers the Power System interconnected to small scale Distributed Generation. (소규모 분산전원의 계통연계를 고려한 보호계전에 관한 연구)

  • Ko, Yeon-Seong;Lee, Jong-Su;Lee, Bock-Ku;Shin, Myong-Chul
    • Proceedings of the KIEE Conference
    • /
    • 2008.07a
    • /
    • pp.506-507
    • /
    • 2008
  • 소규모 풍력에너지, 연료전지 및 태양에너지 등의 신 재생에너지원들이 소규모 분산전원으로 도입되고 있다. 이로 인해, 수용가 측의 전원이 대규모 전력사업자로부터만 공급받던 시스템방식에서, 분산전원과 연계하여 동시에 사용하는 방식으로 바뀌고 있다. 이러한 분산전원이 계통에 도입될 경우 이로 인해 평상시 기존 계통의 보호방식에 미치는 영향의 경우는 상시전압변동, Flicker, 병해열로 인한 순시전압변동, 고조파, 불평형 등이 고려 될 수 있다. 또한 이러한 경우로 인해 보호계전기의 오동작도 초래 할 수 있다. 이에 본 논문에서는 태양광시스템을 분산전원으로 하는 연계 계통을 모델링하여 발생하는 파형에 대해 분석한다. 또한 디지털 보호계전기의 디지털 필터링 기법을 비교하여 빠른 연산 속도와 주파수 응답 특성을 가지는 알고리즘을 선정하고 모델링하여 모델링 된 디지털 필터로 분산전원 연계를 통해 얻어진 파형을 필터링 한다. 본 논문에서 분산전원의 계통 모의는 전력계통에 모의에 높은 신뢰성을 가지는 PSCAD/EMTDC를 기반으로 하였으며, 디지털 보호계전기의 디지털 필터 알고리즘 모델링은 MATLAB을 사용하였다.

  • PDF

UHD Video Transcoding System in Cloud Computing Environment (클라우드 기반 UHD 영상 트랜스코딩 시스템)

  • Moon, Hee-Cheol;Kim, Yong-Hwan;Kim, Dong-Hyeok
    • Proceedings of the Korean Society of Broadcast Engineers Conference
    • /
    • 2014.11a
    • /
    • pp.203-205
    • /
    • 2014
  • UHD 영상 콘텐츠는 FHD 영상에 비해 생생하고 더 좋은 고화질의 영상을 제공하지만 영상정보의 데이터 양은 4K UHD 경우 4 배 이상이다. 이러한 초대용량의 UHD 영상을 기존의 병렬/분산 처리를 이용하여 비디오 코딩 한다면 UHD 의 초대용량 특성으로 인하여 연산량 부하가 발생하게 된다. 따라서 UHD 영상은 기존의 분산처리 방식이 아닌 초대용량 데이터를 빠르게 처리 할 수 있는 새로운 분산 처리기술이 필요하다. 본 논문은 UHD 콘텐츠를 빠르게 트랜스코딩 할 수 있는 클라우드 기반 UHD 영상 트랜스코딩 시스템을 제안한다. 본 논문에서 제안하는 UHD 영상 트랜스코딩 시스템은 다음 3 가지 패킷 분석기, 분산 트랜스코더, 스트림 합성기로 구성된다. 패킷 분석기는 입력 영상을 분석하여 오디오와 비디오 스트림을 분할하고 비디오 스트림은 분산처리를 할 수 있도록 영상 패킷을 분할한다. 분산 트랜스코더는 클라우드 환경을 이용하여 분할된 영상 패킷들을 분산 디코드 및 인코드 처리한다. 스트림 합성기는 트랜스코딩이 완료된 비디오 스트림과 패킷 분석기에서 획득하였던 오디오 스트림을 합성하는 기능을 한다. 제시하는 방안을 적용하여 클라우드 기반 영상 트랜스 코딩 시스템을 구현하였으며, 구현된 시스템은 대용량의 UHD 영상을 빠른 속도로 트랜스코딩이 가능하다.

  • PDF

Priority based Load Shedding Method using Range Overlap of Spatial Queries on Data Stream (데이터 스트림에서 공간질의의 영역 겹침을 이용한 우선순위 기반의 부하 분산 기법)

  • Ho Kim;Sung-Ha Baek;Yan Li;Dong-Wook Lee;Weon-Il Chung;Hae-Young Bae
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2008.11a
    • /
    • pp.401-404
    • /
    • 2008
  • u-GIS 환경에서 발생하는 시공간 데이터는 지속적으로 발생하는 데이터 스트림의 특성을 갖으며, 그런 특성으로 인하여 데이터 발생량이 급격히 증가함에 따라 데이터 손실 및 시스템 성능 저하현상이 발생한다. 이를 해결하기 위해 부하 분산 연구들이 활발히 진행되어 오고 있다. 그러나 기존의 연구 방식인 랜덤 부하 분산 방식과 의미적 부하 분산 방식은 현 u-GIS 환경에서 부하 분산 속도 및 질의 결과의 정확도 측면에 만족스럽지 못한 결과를 준다. 그래서 본 논문에서는 우선순위를 이용한 차등적 부하 분산(DLSM : Different Load Shedding using MAP table)기법을 제안한다. DLSM 기법은 등록된 공간질의의 공간연산을 통해 영역의 우선순위를 미리 부여하고, 데이터가 발생하여 질의 처리기로 유입되기 전 우선순위를 파악한다. 데이터는 우선순위 단계에 따라 유입량을 확인 후 삭제 여부가 결정된다. 결과적으로 부하 분산 속도와 질의 결과의 정확도를 향상시켰다.

무선 센서 네트워크를 위한 물리계층 보안 기술연구

  • Im, Sang-Hun;Jeon, Hyeong-Seok;Choe, Jin-Ho;Ha, Jeong-Seok
    • Information and Communications Magazine
    • /
    • v.31 no.2
    • /
    • pp.83-90
    • /
    • 2014
  • 본고에서는 센서 네트워크의 분산 검출 분야에서 최근 활발히 연구되고 있는 물리계층 보안기술들을 소개하고자 한다. 복잡한 연산과정을 요구하는 기존 암호학 기반의 보안 시스템은 배터리용량과 연산 능력이 제한된 센서 네트워크에서 많은 유지보수 비용을 유발할 수 밖에 없다. 본고에서 소개할 물리계층 보안기술들은 기존의 통신 모뎀 기술을 보안 강화의 목적으로 재활용하는 기술이다. 따라서, 복잡한 연산이나 추가적인 하드웨어를 필요로 하지 않기 때문에 자원이 제한된 센서 네트워크에 매우 적합하다. 본고에서는 센서네트워크에서 제안된 대표적인 물리계층 보안기술인 확률적 암호화 (stochastic encryption) 기법과 채널 인지 암호화 (channel aware encryption) 기법을 소개한다. 제안된 물리계층 암호화 기술을 두 가지 무선 채널 모형 PAC (parallel access channel)과 MAC (multiple access channel)에서 간략화된 모델로 재해석하여 센서 네트워크를 위한 보안 기술로서 적합성 여부를 평가하도록 하겠다.

The Design and Implementation of System for providing mobile may service in Wireless Devices (무선 단말기에서 지도 서비스를 위한 시스템의 설계 및 구현)

  • 이재호;임덕성;홍봉희
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2002.04b
    • /
    • pp.46-48
    • /
    • 2002
  • 무선 네트웍을 통해 공간 데이터를 요청하고 수신하는 PDA에서 지도 정색을 하기 위해 캐쉬와 공간 색인을 사용하는 한정을 대상으로 한다. 서 대로부터 전송되는 공간 객체들은 캐쉬된 영역의 공간 객체와 중복이 발생하므로 이에 대한 처리 방법이 필요하다. 또한 추가되는 영역의 공간 데이터를 색인에 추가하는 연산은 Bulk-Insertion기법이 효과적이지만 추가영역에 대한 색인 구축 연산이 무선 단말기에 부하를 준다. 그리고 교체로 인한 캐쉬 영역 삭제 시에도 신속한 영역 단위의 삭제 방법이 필요하다 이 논문에서는 먼저 중복 객체에 대한 처리 방법을 분류하고 Bulk-operation을 통해 캐쉬 영역의 빠른 색인 삽입, 삭제 연산을 수행하는 지도 서비스를 위한 시스템을 계시한다. 무선 단말기에 집중된 부하를 분산시키고 성능 향상을 위해 에이전트를 이용한 시스템을 설계하고 구현한다. 구현하여 실험한 결과 클리핑 방법이 효과적이며 전체적인 성능 향상을 보인다

  • PDF

A Fault-Tolerant Dynamic Load Balancing Method for Coarse-Grained Tasks Using Mobile Agents Migration Strategies (인터넷 환경에서 이동 에이전트 이주 전략을 사용자 큰 입자도를 갖는 작업들의 결함 허용 동적 부하 균등화 기법)

  • 김영균;김영학;오길호
    • Proceedings of the Korean Information Science Society Conference
    • /
    • 2001.04a
    • /
    • pp.562-568
    • /
    • 2001
  • 인터넷 환경에서 유휴 컴퓨팅 자원들을 활용하여 병렬 작업들을 분산 처리하는 많은 연구들이 선행 되어왔다. 기존의 방법들을 프로세스(Process)기반으로 자원의 낭비가 심하고, 부하 균등화에 있어 많은 문제점들이 있다. 또한 매우 큰 작업들은 연산 시간이 수시간에서 몇 일씩 소요되는 경우가 있다. 이러한 작업들의 연산에 있어서 결함 허용이 제공되지 않은 경우 전체 소요 시간이 급격히 늘어 날 수 있다. 이러한 문제점을 해결하기 위해 본 연구에서는 이동 에이전트의 이주 전략을 사용, 결함 허용이 가능한 동적 부하 균등화 기법을 새롭게 제안한다. 본 논문에서의 방법은 SPMD형의 연산작업에 효과적으로 적용 가능하다.

Study on the Replication based Scheduling for Application QoS with Heuristic Method (휴리스틱 메소드를 이용하여 응용 QoS 를 보장하는 복제기반 스케줄링 기법에 관한 연구)

  • An, Byung-Do;Kim, Hong-Soo;Lee, Sang-Keun
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2007.11a
    • /
    • pp.678-681
    • /
    • 2007
  • 분산형 데스크탑 그리드 시스템에서 안정적인 연산 수행을 위한 노드 구성 기법과 동적인 환경에 적응적인 스케줄링 기법은 필수 요소이다. 그러나 기존 연구에서는 자원 제공자의 휘발성에 적응적으로 대처하지 못하는 연산 수행 모델을 사용하였기 때문에 데드라인 내에 전체 작업을 완료해야하는 응용에 대처하지 못하는 문제점이 발생한다. 이에 본 논문에서는 자원제공자의 성능과 논리적인 위치기반으로 자가 조직적 연산 오버레이 네트워크(Computation Overlay Network) 구성 기법과 자원제공자의 작업 완료 확률과 신용도 값을 이용하여 응용 QoS 보장을 위한 휴리스틱기반 복제 (Heuristic based Replication) 기법을 제안한다. 성능평가에서는 기존 스케줄링 기법과 자원제공자의 작업 완료 확률과 신용도에 따른 분포를 이용한 복제기반 스케줄링 기법을 비교평가 한다.