• 한국산학기술학회논문지
• /
• 제18권10호
• /
• pp.75-80
• /
• 2017

본 논문에서는 딥러닝에서 활용되는 정규화(regularization) 및 항등사상(identity mapping)이 활성함수(activation function) 성능에 미치는 영향에 대해 설명한다. 딥러닝에서 활성함수는 비선형 변환을 위해 사용된다. 초기에는 sigmoid 함수가 사용되었으며, 기울기가 사라지는 기존의 활성함수의 문제점을 극복하기 위해 ReLU(Rectified Linear Unit), LReLU(Leaky ReLU), PReLU(Parametric ReLU), ELU(Exponetial Linear Unit)이 개발되었다. 활성함수와의 연구와는 별도로 과적합(Overfitting)문제를 해결하기 위해, Dropout, 배치 정규화(Batch normalization) 등의 정규화 방법들이 개발되었다. 추가적으로 과적합을 피하기 위해, 일반적으로 기계학습 분야에서 사용되는 data augmentation 기법이 활용된다. 딥러닝 구조의 측면에서는 기존에 단순히 컨볼루션(Convolution) 층을 쌓아올리는 구조에서 항등사상을 추가하여 순방향, 역방향의 신호흐름을 개선한 residual network가 개발되었다. 위에서 언급된 활성함수들은 각기 서로 다른 특성을 가지고 있으나, 새로운 정규화 및 딥러닝 구조 연구에서는 가장 많이 사용되는 ReLU에 대해서만 검증되었다. 따라서 본 논문에서는 정규화 및 항등사상에 따른 활성함수의 성능에 대해 실험적으로 분석하였다. 분석을 통해, 정규화 및 항등사상 유무에 따른 활성함수 성능의 경향을 제시하였으며, 이는 활성함수 선택을 위한 교차검증 횟수를 줄일 수 있을 것이다.

• 인터넷정보학회논문지
• /
• 제17권6호
• /
• pp.17-23
• /
• 2016

사물인터넷 (IoT)과 같은 미래 망에서, 컴퓨팅 기기의 수는 기하급수적으로 증가할 것으로 예상되고, 각 사물들은 서로 통신하고 스스로 정보를 획득한다. 사물 인터넷 응용에 대한 관심 증가로 사물통신 (M2M)과 같은 기회적 애드혹 망에서 데이터를 전달하는 방송은 중요한 기술이다. 그리고 IoT를 위한 분산 망에서, 노드들의 에너지 효율성은 망 성능에서 중요한 요인이다. 이 논문에서, 우리는 전송 노드의 에너지 충전률, 사본 밀도 비율 그리고 송 수신 노드간의 거리률에 기초한 퍼지 논리에 따라 확률적으로 데이터를 전파하는 퍼지 논리 기반 멀티홉 방송 알고리즘 FPMCAST를 제안한다. 제안하는 FPMCAST에서, 추론 엔진은 입 출력 매개변수를 입 출력 소속 함수로 사상하는 27개의 if-then 규칙들로 구성된 퍼지 규칙 베이스에 기초한다. 퍼지 시스템의 출력은 재방송 확률에 대한 퍼지 집합을 정의하고, 그 퍼지 집합으로부터 수치 결과를 추출하기 위하여 비 퍼지화가 사용된다. 여기서 퍼지 집합을 비 퍼지화하기 위하여 무게중심법이 사용된다. 그리고 모의실험을 통하여 제안하는 FPMCAST의 성능을 평가한다. 모의실험으로부터, 우리는 제안하는 FPMCAST 알고리즘이 플러딩 알고리즘과 가시핑 알고리즘 보다 우수함을 입증하였다. 특히, FPMCAST 알고리즘은 각 노드의 잔여 에너지를 균등하게 소비하기 때문에 더 긴 망 수명을 갖는다.

• 방송공학회논문지
• /
• 제24권1호
• /
• pp.132-141
• /
• 2019

매우 제한된 전송 대역을 이용하여 비디오 데이터를 전송해야 하는 필요성은, 광대역을 통한 비디오 서비스가 활성화되어 있는 현 시점에서도 꾸준히 존재한다. 본 논문에서는 초협대역 네트워크를 통한 저해상도 비디오 전송을 위해, 공간 확장형 스케일러블 비디오 코딩 프레임워크에서 기본 계층의 부호화된 프레임을 심층 신경망 기반 초해상화 기법을 이용하여 업스케일링 하여 향상 계층 부호화 시에 예측 영상으로 활용하여 부호화 효율을 높이는 방법을 제안한다. 기존의 스케일러블 HEVC (High efficiency video coding) 표준에서는 고정된 필터로 업스케일링을 하는데 비해, 본 논문에서는 초해상화 수행을 위해 학습된 심층신경망을 기존의 고정 업스케일링 필터를 대체하여 적용하는 스케일러블 비디오 코딩 프레임워크를 제안한다. 이를 위해 스킵 연결과 잔차 학습 기법 등이 적용된 심층 콘볼루션 신경망 구조를 제안하고, 비디오 코딩 프레임워크의 실제 응용 상황에 맞추어 학습시켰다. 입력 해상도가 $352{\times}288$이고 프레임율이 8fps인 영상을 110kbps로 부호화 하는 응용 상황에서, 기존의 스케일러블 HEVC 프레임워크에 비해 제안하는 스케일러블 비디오 코딩 프레임워크의 화질이 더 높고 부호화 효율이 우수함을 확인할 수 있었다.

• 방송공학회논문지
• /
• 제27권3호
• /
• pp.378-390
• /
• 2022

최근 심층 합성 곱 신경망 학습의 발전에 따라 단일 영상 초해상도에 적용되는 심층 학습 기법들을 좋은 성과를 보여주고 있으며 깊은 네트워크의 강한 표현 능력으로 저해상도 영상과 고해상도 영상 사이의 복잡한 비선형 매핑이 가능해졌다. 하지만 과도한 합성곱 신경망의 사용으로 인해 증가하는 파라미터와 연산량으로 실시간 또는 저전력 장치에 적용하는데 제한이 있다. 본 논문은 정보 증류 방식을 이용하여 계층적인 특징을 조금씩 추출해내는 블록을 재귀적인 방식으로 사용하며 고주파수 잔여 정제 블록을 통해 더 정확한 고주파수 성분을 만들어 성능을 향상시키는 경량화된 네트워크인 Recursive Distillation Super Resolution Network (RDSRN) 를 제안한다. 제안하는 네트워크는 RDN과 비교했을 때 비슷한 화질의 영상을 복원하며 약 32배 적은 파라미터와 약 10배 적은 연산량을 가지고 약 3.5배 더 빠르게 영상을 복원하며 기존 경량화 네트워크 CARN과 비교했을 때 약 2.2배 적은 파라미터와 약 1.8배 빠른 처리시간으로 평균 0.16dB 더 좋은 성능을 만들어 냄을 확인 하였다.

• 방송공학회논문지
• /
• 제27권1호
• /
• pp.31-43
• /
• 2022

전통적인 비디오 압축은 움직임 예측, 잔차 신호 변환 및 양자화를 통한 하이브리드 압축 방식을 기반으로 지금까지 발전해왔다. 최근 인공 신경망을 통한 기술이 빠르게 발전함에 따라, 인공 신경망 기반의 이미지 압축, 비디오 압축 연구 또한 빠르게 진행되고 있으며, 전통적인 비디오 압축 코덱의 성능과 비교해 높은 경쟁력을 보여주고 있다. 본 논문에서는 이러한 인공 신경망 기반 비디오 압축 모델의 성능을 향상시킬 수 있는 새로운 방법을 제시한다. 기본적으로는 기존 인공 신경망 기반 비디오 압축 모델들이 채택하고 있는 변환 및 복원 신경망과 엔트로피 모델(Entropy model)을 이용한 율-왜곡 최적화(Rate-distortion optimization) 방법을 사용하며, 인코더 측에서 디코더 측으로 압축된 레이턴트 정보(Latent information)를 전송할 때 엔트로피 모델이 추정하기 어려운 정보의 값을 이동시켜 전송할 비트량을 감소시키고, 손실된 정보를 추가로 전송함으로써 손실된 정보에 대한 왜곡을 보정한다. 이러한 방법을 통해 기존의 인공 신경망 기반 비디오 압축 기술인 MFVC(Motion Free Video Compression) 방법을 개선하였으며, 실험 결과를 통해 H.264를 기준으로 계산한 BDBR (Bjøntegaard Delta-Bitrate) 수치(%)로 MFVC(-14%) 보다 두 배 가까운 비트량 감축(-27%)이 가능함을 입증하였다. 제안된 방법은 MFVC 뿐 아니라, 레이턴트 정보와 엔트로피 모델을 사용하는 신경망 기반 이미지 또는 비디오 압축 기술에 광범위하게 적용할 수 있다는 장점이 있다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제4권3호
• /
• pp.428-451
• /
• 2010

Traffic matrix-based anomaly detection and DDoS attacks detection in networks are research focus in the network security and traffic measurement community. In this paper, firstly, a new type of unidirectional flow called IF flow is proposed. Merits and features of IF flows are analyzed in detail and then two efficient methods are introduced in our DDoS attacks detection and evaluation scheme. The first method uses residual variance ratio to detect DDoS attacks after Recursive Least Square (RLS) filter is applied to predict IF flows. The second method uses generalized likelihood ratio (GLR) statistical test to detect DDoS attacks after a Kalman filter is applied to estimate IF flows. Based on the two complementary methods, an evaluation formula is proposed to assess the seriousness of current DDoS attacks on router ports. Furthermore, the sensitivity of three types of traffic (IF flow, input link and output link) to DDoS attacks is analyzed and compared. Experiments show that IF flow has more power to expose anomaly than the other two types of traffic. Finally, two proposed methods are compared in terms of detection rate, processing speed, etc., and also compared in detail with Principal Component Analysis (PCA) and Cumulative Sum (CUSUM) methods. The results demonstrate that adaptive filter methods have higher detection rate, lower false alarm rate and smaller detection lag time.

• 한국통신학회논문지
• /
• 제31권9B호
• /
• pp.838-847
• /
• 2006

홈 네트워크에서 효율적인 다중 멀티미디어 스트림 서비스를 지원하기 위해서는 가능한 여러 문제점들을 고려해야 한다. 그 중에서도 네트워크 대역폭 부족 상황을 대처하는 것은 가장 어려운 문제 중에 하나이다. 본 논문에서는 IEEE1394 기반 홈 네트워크에서 실시간 대역폭 관리 서비스를 미들웨어 레벨에서 운용해 대역폭 부족 상황을 대처하는 방안을 살펴본다. 대역폭 부족 상태를 대처하고 버스 사용 효율을 높이기 위해서, 제안하는 서비스는 두 가지 방법을 이용한다. 첫째는 대역폭 상태를 지속적으로 감시하여 특정 서비스가 과도하게 점유한 잉여 대역폭을 되돌려 받는다. 둘째는 등시성 스트림(IS) 스케줄러를 이용해 우선순위에 따라 스트림 서비스들을 통제하는 것이다. 제안한 서비스는 프로토타입 스트림 관리 미들웨어로 구현하여 간단한 IEEE1394 네트워크 상에서 시험하였다.

• 한국콘텐츠학회논문지
• /
• 제11권6호
• /
• pp.51-58
• /
• 2011

무선 센서 네트워크의 라우팅 기술은 제한된 에너지를 갖고 있는 센서 노드들의 에너지 수명을 최대한으로 연장할 수 있는 방법으로 많이 연구되고 있다. 기본 라우팅 방법 중 위치 정보를 이용한 라우팅 방법은 라우팅 설정을 위한 계산시에 필요한 정보의 양이 평면, 계층적 라우팅 방법보다 적기 때문에 효율적이다. 하지만 주로 거리를 활용하기 때문에 센서 노드의 에너지 활용도가 떨어질 수도 있다. 본 논문에서는 최적의 경로 탐색에 많이 이용되고 있는 개미 집단 시스템(ACS : Ant Colony System)의 전이 확률에 센서의 에너지양과 싱크와의 거리를 이용한 가중치를 부여하여 무선 센서 네트워크의 에너지 사용량을 고르게 사용할 수 있게 하였다. 제안된 방법은 대표적인 GPSR(Greedy Perimeter Stateless Routing)과 비교하여 에너지 사용도에 있어 평균적으로 46.80%의 향상을 보였으며, 기존의 ACS보다 동일한 시간의 수행 종료 후 잔여 에너지가 평균 6.7% 더 남아 있음을 확인하였다.

• Journal of Communications and Networks
• /
• 제10권3호
• /
• pp.239-252
• /
• 2008

For orthogonal frequency division multiplexing (OFDM), cyclic prefix (CP) should be longer than the length of channel impulse response, resulting in a loss of bandwidth efficiency. In this paper, we describe a new technique to restore the cyclicity of the received signal when the CP is not sufficient for OFDM systems. The proposed technique efficiently restores the cyclicity of the current received symbol by adding the weighted next received symbol to the current received symbol. Iterative CP reconstruction (CPR) procedure, based on the residual intersymbol interference cancellation (RISIC) algorithm, is analyzed and compared to the RISIC. In addition, we apply the CPR method to Alamouti space-time block coded (STBC) OFDM system. It is shown that in the STBC OFDM, tail cancellation as well as cyclic reconstruction of the CPR procedure should be repeated. The computational complexities of the RISIC, the proposed CPR, the RISIC with STBC, and the proposed CPR with STBC are analyzed and their performances are evaluated in multipath fading environments. We also propose an iterative channel estimation (CE) method for OFDM with insufficient CP. Further, we discuss the CE method for the STBC OFDM system with the CPR. It is shown that the CPR technique with the proposed CE method minimizes the loss of bandwidth efficiency due to the use of CP, without sacrificing the diversity gain of the STBC OFDM system.

• 한국콘텐츠학회논문지
• /
• 제10권2호
• /
• pp.14-24
• /
• 2010

무선 센서 네트워크에서는 센서 노드의 제한된 자원으로 동작하기 때문에 클러스터 기반의 라우팅 방법을 통해 네트워크의 수명을 향상시키고 있다. 본 논문에서는 클러스터 기반의 라우팅 기법이 가진 에너지 효율을 최대화하기 위해 방향, 거리, 밀도, 그리고 잔여 에너지량을 사용하고자 한다. 상위 클러스터 헤드의 방향 정보를 이용하여 새로운 클러스터 헤드를 자율적으로 선출할 때 고립 노드의 발생 빈도를 최소화하고, 거리 정보를 이용하여 셋업 단계에서 새로운 클러스터와 이전의 클러스터 모두에 포함되어 정보를 갱신할 필요가 없는 센서 노드들을 슬립 모드로 전환하여 에너지 소모를 줄이며, 단지 새로 가입되는 센서노드만 정보 교환함으로써 불필요한 에너지 소비를 줄이고자 한다. 뿐만 아니라, 클러스터 기반의 라우팅 기법에서 내부나 외부의 공격에 강한 키 관리 기법을 통해 안전하고 에너지 효율적인 통신이 가능하도록하여 전체적인 네트워크 효율을 높이고자 한다. 따라서 전체 네트워크내의 멤버들에게 클러스터 헤드가 될 수 있는 안전하고 균등한 기회를 주고자 하는 클러스터 헤드 선출 기법을 제안한다.