• Journal of information and communication convergence engineering
• /
• 제20권1호
• /
• pp.22-30
• /
• 2022

The reinforcement learning algorithm has proven its potential in solving sequential decision-making problems under uncertainties, such as finding paths to route data packets in wireless sensor networks. With reinforcement learning, the computation of the optimum path requires careful definition of the so-called reward function, which is defined as a linear function that aggregates multiple objective functions into a single objective to compute a numerical value (reward) to be maximized. In a typical defined linear reward function, the multiple objectives to be optimized are integrated in the form of a weighted sum with fixed weighting factors for all learning agents. This study proposes a reinforcement learning -based routing protocol for wireless sensor network, where different learning agents prioritize different objective goals by assigning weighting factors to the aggregated objectives of the reward function. We assign appropriate weighting factors to the objectives in the reward function of a sensor node according to its hop-count distance to the sink node. We expect this approach to enhance the effectiveness of multi-objective reinforcement learning for wireless sensor networks with a balanced trade-off among competing parameters. Furthermore, we propose SDN (Software Defined Networks) architecture with multiple controllers for constant network monitoring to allow learning agents to adapt according to the dynamics of the network conditions. Simulation results show that our proposed scheme enhances the performance of wireless sensor network under varied conditions, such as the node density and traffic intensity, with a good trade-off among competing performance metrics.

• 한국정보과학회논문지:정보통신
• /
• 제35권6호
• /
• pp.521-528
• /
• 2008

라디오 통신 등의 전통적인 해상통신기술은 단문정보 교환만이 가능한 전송품질을 제공한다. 전송품질의 단점을 극복한 해사위성(Inmarsat) 등을 통한 무선 채널은 경제적 부담으로 접근이 어렵다. 따라서 바다에서 항해, 조업하는 선박들은 육상의 초고속 인터넷 서비스를 이용하지 못하고 있다. 본 논문에서 제안하는, 이 문제를 극복하는 새로운 기술에 핵심은 해상이동통신망을 단일 홉(Single Hop)에서 다중 홉(Multi Hop)으로 구성하는 것이다. 선박과 선박, 선박과 연안(항구)간의 망을 이동 애드 혹 네트워크(MANET) 모델로 해석하고 새로운 선박 애드 혹 네트워크(SANET) 모델을 설계하였다. 항구와 항로 같은 정적인 지리정보를 활용하면서 육지의 이동단말기와는 크게 차별화되는 움직이는 선박의 특성을 고려하면서 대응적으로(Reactive) 경로를 배정하는 부채꼴 탐색구역 경로배정 프로토콜(FSR)을 제안하였다. FSR(Fan-shaped Search Zone Routing)은 최단경로가 있을 수밖에 없는 지엽적 부채꼴 구역을 찾아내 획정하고 그 구역 안에서만 최단경로를 탐색하는 프로토콜이다. 기존의 지리 정보를 이용하는 대표적인 경로배정 프로토콜인 LAR과 성능을 비교하였다. 첫째, FSR은 LAR을 비롯한 다른 지리정보기반 경로배정 프로토콜과 달리 경로배정을 하기 위해 제어 패킷(Beaconing Packet)을 발생시키지 않아 통신채널 품질저하를 전혀 초래하지 않는다. 둘째, FSR은 경로탐색구역의 경계선의 일부분을 전송경로로 확보하기 때문에 경로탐색성공률을 100% 보장한 반면 LAR은 약 64%의 성공률을 보였다. 셋째, 경로가 탐색된 경우에 한하여 그 경로의 최적성을 상호 비교한 결과 FSR이 LAR의 약 97%이었다. 종합적으로는 FSR이 LAR보다 약 50%의 성능 개선 효과를 얻을 수 있었다.

• 한국정보과학회논문지:정보통신
• /
• 제34권3호
• /
• pp.218-225
• /
• 2007

현재 홈 네트워크, 센서 네트워크, 유비쿼터스 네트워크 등에 대한 활발한 연구가 진행되면서 무선 이동 애드-혹 네트워크에 대한 관심이 높아지고 있다. 무선 이동 애드-혹 네트워크란 기존의 유선하부구조의 도움 없이 이동 호스트들만으로 구성되는 임시적인 네트워크로, 언제 어디서나 컴퓨팅 환경을 이용할 수 있도록 하는 개념의 유비쿼터스 컴퓨팅 환경에 적합한 네트워크이다. 본 논문에서는 다중 경로의 수를 제한하는 소스 라우팅 프로토콜을 기반으로 무선 이동 애드-혹 네트워크의 확장 기법을 제안한다. 이 기법은 무선 이동 애드-혹 네트워크 내의 이동 호스트들 간 또는 무선 이동 애드-혹 네트워크 내의 이동 호스트와 유선 네트워크 서비스를 지원하는 기지국 간에 링크 및 중간 호스트의 중복을 허용하는 다중 경로를 유지함으로써 경로 재설정 및 재등록으로 인한 오버헤드를 줄이는 기법이다. 이와 같이 다중 경로를 유지함으로써 출발지와 목적지간 데이타 패킷 전송 지연 및 패킷 손실을 줄일 수 있으며, 따라서 보다 신뢰적인 방법으로 무선 이동 애드-혹 네트워크를 유선 네트워크로 확장시킬 수 있다. 성능 평가를 통해, 본 논문에서 제안하는 기법이 단일 경로를 사용하는 일반적인 확장 기법들보다 이동 속도 증가에 따른 처리량 및 단대단 지연이 보다 안정적이며, 노드/링크가 전혀 중복되지 않는 다중 경로를 사용하는 기법에 비해 낮은 오버헤드를 가짐을 보인다.

• 한국콘텐츠학회:학술대회논문집
• /
• 한국콘텐츠학회 2015년도 춘계 종합학술대회 논문집
• /
• pp.31-32
• /
• 2015

본 논문에서는 컴퓨터 망에서 동적라우팅 프로토콜로 다중영역을 지원하는 OSPF (Open Shortest Path First)를 중심으로 망 축약(summary), 타 프로톨과의 연동을 위한 재분배(redistribution), Virtual Link 등 복잡한 설정 기법을 연구하고 이를 신라대학교 LAN 구성에 적용한다. 시스코의 망 시뮬레이터 장비인 패킷트레이서를 활용하여 라우터와 스위치는 각각 2620XM Router, 2950T-24 Switch를 사용하고, 라우팅 프로토콜은 OSPF, EIGRP(Enhanced Interior Gateway Routing Protocol)를, 또한 이들 간의 연결을 위해서는 재분배를 이용하고, 다중 영역 중 백본 area에 인접하지 않는 area에 대한 연결을 위해서는 Virtual Link 등 여러 설정 기법을 사용한다. 전체 망 구성 연결 후에는 이들 설정에 대한 통신상태를 확인한다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2007년도 한국컴퓨터종합학술대회논문집 Vol.34 No.1 (D)
• /
• pp.379-383
• /
• 2007

무선 센서 네트워크에서는 네트워크 부하를 줄이기 위해 다수의 소스 노드가 전송한 데이터를 중간 노드에서 병합하여 전송하는 라우팅 기법을 사용한다. 기존의 DD-G(Directed Diffusion-Greedy) 데이터 병합 라우팅 기법은 데이터 병합 노드의 에너지 효율을 고려하여 단일 경로를 구축함으로써 에너지 소모를 줄일 수 있었다. 하지만 싱크 노드에 근접할수록 에너지 소모가 집중되거나 통신 지연이 증가하는 문제점이 있다. 이러한 문제점을 해결하기 위해 본 논문에서는 부하 분산을 고려하여 다중 데이터 병합 경로를 구축하는 새로운 데이터 병합 라우팅 기법을 제안한다. 이 기법은 싱크 노드 주변의 네트워크 부하집중을 분산시키고, 데이터 손실에 대한 재전송 비용을 감소시키기 위해 다중 경로를 이용한다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2008년도 한국컴퓨터종합학술대회논문집 Vol.35 No.1 (D)
• /
• pp.176-180
• /
• 2008

무선 메쉬 네트워크는 최근 무선 네트워크 환경에서 유선을 효율적으로 연장할 수 있는 기술로서 주목 받고 있으며 무선 백본망을 통해 저렴한 비용으로 광대역 네트워크 인프라를 구성하는 기술이다. 무선 메쉬 네트워크는 기존 네트워크 기술과는 달리 노드의 이동성이 적고 에너지 영향도 덜 제한적인 특징을 가지고 있다. 따라서 이러한 네트워크 특성을 반영할 수 있는 경로 설정 기술이 필요하며 적합한 경로를 결정하기 위한 새로운 라우팅 메트릭이 요구된다. 본 논문에서는 데이터를 효율적으로 전달하기 위해 노드 간 링크 성능과 노드의 부하를 고려한 새로운 라우팅 메트릭을 제안한다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2003년도 가을 학술발표논문집 Vol.30 No.2 (3)
• /
• pp.373-375
• /
• 2003

애드 혹 네트워크는 기존의 하부 기반구조를 필요로 하지 않고도 이동 노드들 사이의 통신이 가능한 네트워크를 의미한다. 현재 애드 혹 라우팅 프로토콜에 관련하여 IETF MANET에서는 단일 경로를 제공하는 라우팅 프로토콜들이 제안되어 있으나 애드 혹 네트워크의 특성상 노드의 잦은 이동으로 인해 빈번한 경로 실패가 발생함으로 인하여 큰 오버헤드와 지연시간을 가지고 있다. 이러한 문제를 해결하기 위해 다양한 다중경로 설정 메커니즘들이 제안 되었으나 추가적인 제어 메시지와 복잡한 메시지 처리 과정으로 인하여 애드 혹 노드의 제한된 처리 능력과 네트워크 자원을 소모를 가져왔다. 본 연구에서는 대표적인 요구기반(on demand) 방식의 단일경로 라우팅 프로토콜인 AODV와 다중경로 라우팅 프로토콜 AOMDV 의 단점을 보완한 저비용 다중경로 메커니즘을 제안한다.

• 한국IT서비스학회:학술대회논문집
• /
• 한국IT서비스학회 2010년도 춘계학술대회
• /
• pp.207-210
• /
• 2010

무선 센서 네트워크 시스템을 이용한 많은 응용 시스템이 연구되고 있는 가운데, 최근 무선 센서 네트워크 시스템의 신뢰성 확보에 대한 문제점이 대두되었다. 이러한 문제점을 해결하기 위하여 영상 데이터를 전송함으로써 보다 신뢰성 있는 정보를 제공할 수 있는 멀티미디어 센서 네트워크에 대한 연구가 활발히 진행되고 있다. 그러나 영상 데이터를 저속의 멀티 홉 무선 센서 네트워크 환경에서 효율적으로 전송하는 프로토콜에 관련된 연구는 비교적 많지 않다. 지금까지의 통신 프로토콜들은 비교적 단순한 센싱 데이터를 전송할 수 있도록 설계되었으며, 새로운 응용들을 지원하기 위해서는 새로운 통신 프로토콜이 필요하다. 따라서 본 논문에서는 연속적인 영상 데이터를 멀티 홉 환경에서 효율적으로 전송할 수 있는 다중 경로 간 간섭이 없는 간섭 회피 다중 경로 설정 기법을 제안한다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2013년도 추계학술발표대회
• /
• pp.314-317
• /
• 2013

본 논문에서는 수시로 차량이 빠르게 이동하고 차량 밀도가 변화하는 그리드 형태의 도로로 구성된 도심의 VANET 환경에서 패킷 전송 성공률을 높일 수 있는 다중경로 패킷전송기법을 제안하였다. 다중경로 패킷전송기법은 이웃노드 리스트의 정보를 이용하여 목적지까지 다중경로를 정한 후 도달가능성이 높은 순서대로 1개 이상의 다중경로로 패킷을 전송하는 방법이다. 다중경로가 발생할 가능성이 높은 그리드 형태의 도로환경에서 목적지까지의 거리 및 차량 밀도를 기반으로 다중경로를 선정하고 각 경로 별로 패킷 프레임에 선호경로 및 Trace 등의 정보를 추가하여 Local Maximum에 빠질 확률을 낮추고 경로 단절로 인한 경로 복구와 그에 따른 경로 중복 및 패킷 전송지연을 방지하여 패킷 단절률을 낮추고 패킷 전송 성공률을 향상 시킬 수 있다.

• 대한전자공학회논문지SD
• /
• 제48권8호
• /
• pp.25-32
• /
• 2011

네트워크-온-칩(Networks-on-Chip, NoC)은 고도로 복잡해지고 있는 다중 프로세서 시스템-온-칩(Multi-Processor System-on-chip, MPSoC)에서의 버스 트래픽 문제를 해결할 핵심기술이나 전통적인 전기적 상호 연결 구조로는 머지않아 대역폭 및 전력소비 등의 한계에 직면할 것으로 예상된다. 이러한 문제를 해결하기 위해 광학적 상호연결과 전기적 상호연결을 같이 사용하는 하이브리드 광학 NoC기술이 최근 활발히 연구되고 있다. 대부분의 하이브리드 광학 NoC에서 전기적인 연결은 웜홀 스위칭(Wormhole switching)과 deterministic 알고리즘인 X-Y 라우팅 알고리즘을 사용하며, 광학적 버스 기반 데이터 전송을 위한 경로 설정 및 광학 라우터 설정을 한다. 광학적 연결에서는 서킷 스위칭(Circuit switching) 방식을 사용하며, 미리 설정된 경로 및 라우터를 이용하여 payload 데이터만 전송을 하게 된다. 그러나 기존에 발표된 하이브리드 광학 NoC같은 경우에는 한 번에 하나의 경로에서만 데이터를 전송 할 수 있다는 단점을 가지고 있어 성능 향상에 한계가 있다. 본 논문에서는 하이브리드 광학 NoC에서 동시에 여러 경로를 이용하여 데이터를 전송하기 위해 전기적인 연결에서 서킷 스위칭 방식과 적응적(adaptive) 알고리즘을 이용하는 새로운 라우팅 알고리즘을 제안하며, 적응적 알고리즘의 문제점인 livelock을 제거할 수 있는 방법 또한 제안한다. 모의실험은 전기적인 NoC, 그리고 웜홀 스위칭 방식의 기존 하이브리드 광학 NoC와 비교 수행 하였다. 그 결과 제안된 방식은 기존 하이브리드 광학 NoC에 비해 60%의 throughput 증가, 그리고 전기적 NoC와 비교했을 때 65%의 전력 감소를 보였다.