• 대한임베디드공학회논문지
• /
• 제19권2호
• /
• pp.107-114
• /
• 2024

Mobile ad hoc networks represent self-configuring networks of mobile devices that communicate without relying on a fixed infrastructure. However, traditional routing protocols in such networks encounter challenges in selecting efficient and reliable routes due to dynamic nature of these networks caused by unpredictable mobility of nodes. This often results in a failure to meet the low-delay and low-energy consumption requirements crucial for such networks. In order to overcome such challenges, our paper introduces a novel multi-objective and adaptive routing scheme based on the Q-learning reinforcement learning algorithm. The proposed routing scheme dynamically adjusts itself based on measured network states, such as traffic congestion and mobility. The proposed approach utilizes Q-learning to select routes in a decentralized manner, considering factors like energy consumption, load balancing, and the selection of stable links. We present a formulation of the multi-objective optimization problem and discuss adaptive adjustments of the Q-learning parameters to handle the dynamic nature of the network. To speed up the learning process, our scheme incorporates informative shaped rewards, providing additional guidance to the learning agents for better solutions. Implemented on the widely-used AODV routing protocol, our proposed approaches demonstrate better performance in terms of energy efficiency and improved message delivery delay, even in highly dynamic network environments, when compared to the traditional AODV. These findings show the potential of leveraging reinforcement learning for efficient routing in ad hoc networks, making the way for future advancements in the field of mobile ad hoc networking.

• Asia pacific journal of information systems
• /
• 제33권3호
• /
• pp.737-767
• /
• 2023

With the availability of big customer data and advances in machine learning techniques, the prediction of customer behavior at the session-level has attracted considerable attention from marketing practitioners and scholars. This study aims to predict customer purchase conversion at the session-level by employing customer profile, transaction, and clickstream data. For this purpose, we develop a multimodal deep learning fusion model with dynamic and static features (i.e., DS-fusion). Specifically, we base page views within focal visist and recency, frequency, monetary value, and clumpiness (RFMC) for dynamic and static features, respectively, to comprehensively capture customer characteristics for buying behaviors. Our model with deep learning architectures combines these features for conversion prediction. We validate the proposed model using real-world e-commerce data. The experimental results reveal that our model outperforms unimodal classifiers with each feature and the classical machine learning models with dynamic and static features, including random forest and logistic regression. In this regard, this study sheds light on the promise of the machine learning approach with the complementary method for different modalities in predicting customer behaviors.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
• /
• pp.552-555
• /
• 1997

Recently, increasing attention has been paid to the application of learning control method to robot manipulator control. Because the learning control method does not require an exact dynamic model, it is flexible and easy to implement. In this paper, we implement a learning control scheme which consists of a unique feedforward learning controller and a linear feedback controller. The learning control method does not require acceleration terms that are sensitive to noise and has the capability of rejecting unknown disturbances and adapting itself to time-varying system parameters. The feasibility of the learning control scheme is soon by implementing the control scheme to a commercial robot manipulator and the performance of which is also compared with the conventional linear PID control method.

• 대한전기학회논문지:시스템및제어부문D
• /
• 제53권5호
• /
• pp.353-360
• /
• 2004

This paper considers reinforcement learning control with the self-organizing map. Reinforcement learning uses the observable states of objective system and signals from interaction of the system and environment as input data. For fast learning in neural network training, it is necessary to reduce learning data. In this paper, we use the self-organizing map to partition the observable states. Partitioning states reduces the number of learning data which is used for training neural networks. And neural dynamic programming design method is used for the controller. For evaluating the designed reinforcement learning controller, an inverted pendulum on the cart system is simulated. The designed controller is composed of serial connection of self-organizing map and two Multi-layer Feed-Forward Neural Networks.

• 한국멀티미디어학회논문지
• /
• 제9권5호
• /
• pp.658-670
• /
• 2006

교육 매개체의 디지털화를 위해 정보 통신망과 기술을 본격적으로 교육에 도입함으로써 교육의 패러다임이 e-learning(electronics learning)으로 이동하고 있다. 그러나 e-learning 콘텐츠는 컴퓨터가 있는 장소에서만 제공받을 수 있기 때문에, 언제 어디서나 사용자가 원할 때 교육받기 힘든 단점이 있으며, 기존 오프라인 콘텐츠를 e-learning 콘텐츠로 재구성하기 위해 많은 비용과 시간이 소요된다. 본 논문에서는 정적인 2차원 시각 정보만을 제공하는 기존 오프라인 콘텐츠의 그림 영상에 모바일 기기를 이용하여 동적인 인터랙션과 다양한 멀티미디어 정보를 융합할 수 있는 교육용 모바일 콘텐츠 (education mobile contents: EMC) 시스템을 제안한다. 제안된 영어 교육 콘텐츠는 기존 오프라인 콘텐츠의 그림 영상을 저해상도 카메라가 장착된 모바일 기기로 인식하기 위해 모양 기반의 영상 검색 방법을 이용하며, 수행속도와 크기와 기울기 변화에 강건한 시작점 일치를 통한 차분 체인코드 (differential chain code)를 사용한 DTW(dynamic time warping)를 이용한다. EMC는 모바일 기기를 이용하여 장소에 상관없이 오프라인 콘텐츠에 적합한 온라인 콘텐츠를 빠르고 정확하게 제공할 수 있다.

• Journal of Electrical Engineering and Technology
• /
• 제12권2호
• /
• pp.890-903
• /
• 2017

The problem of determining a smooth and collision-free path with maximum possible speed for a Mobile Robot (MR) which is chasing a moving target in a dynamic environment is addressed in this paper. Genetic Network Programming with Reinforcement Learning (GNP-RL) has several important features over other evolutionary algorithms such as it combines offline and online learning on the one hand, and it combines diversified and intensified search on the other hand, but it was used in solving the problem of MR navigation in static environment only. This paper presents GNP-RL based on predicting collision positions as a first attempt to apply it for MR navigation in dynamic environment. The combination between features of the proposed collision prediction and that of GNP-RL provides safe navigation (effective obstacle avoidance) in dynamic environment, smooth movement, and reducing the obstacle avoidance latency time. Simulation in dynamic environment is used to evaluate the performance of collision prediction based GNP-RL compared with that of two state-of-the art navigation approaches, namely, Q-Learning (QL) and Artificial Potential Field (APF). The simulation results show that the proposed GNP-RL outperforms both QL and APF in terms of smooth movement and safer navigation. In addition, it outperforms APF in terms of preserving maximum possible speed during obstacle avoidance.

• 국제지역연구
• /
• 제14권3호
• /
• pp.388-419
• /
• 2010

본 연구는 국내 수출중소기업의 해외시장 경쟁우위에 관한 연구모형과 가설을 제시하고 이를 통해 기대해 볼 수 있는 시사점을 살펴보는 것을 목적으로 하였다. 이를 위해 자원기반관점에서 살펴본 조직의 문화적 무형 자산으로서 조직학습역량과 역동적 역량이 해외시장 경쟁우위에 미치는 영향에 관한 통합적 모형을 구축하였다. 또한 기존의 역동적 역량에서 설명된 내부자원의 통합 재배치 역량을 각각 구분하여 사용하였다. 해외시장 경쟁우위에 있어서도 이를 각각 비용, 제품, 서비스 우위의 세 가지로 구분하여 선행요인과의 관계를 살펴보는 연구모형을 제안하였다. 총 386개의 표본을 대상으로 하여 구조방정식 모형을 이용하여 분석을 실시하였다. 분석 결과 학습역량은 역동적 역량 모두에 긍정적인 영향을 주고 있음을 확인하였다. 또한 학습역량은 경쟁우위 중에서 제품우위를 제외한 서비스와 비용 우위에 긍정적 영향을 주고 있다. 역동적 역량의 경우 자원 통합은 경쟁우위 전체 요소에 대해서 그리고 자원 재배치의 경우 제품과, 서비스 우위에 유의한 영향을 미치고 있음을 알 수 있었다. 또한 역동적 역량의 학습역량과 경쟁우위에 대한 매개효과 분석 결과 역동적 역량은 학습역량과 비용우위 사이를 매개하고 있음을 확인하였다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 1998년도 하계학술대회 논문집 G
• /
• pp.2363-2366
• /
• 1998

The intent of this paper is to describe a neural network structure called dynamic neural processor(DNP), and examine how it can be used in developing a learning scheme for computing robot inverse kinematic transformations. The architecture and learning algorithm of the proposed dynamic neural network structure, the DNP, are described. Computer simulations are provided to demonstrate the effectiveness of the proposed learning using the DNP.

• 한국콘텐츠학회논문지
• /
• 제9권7호
• /
• pp.371-378
• /
• 2009

많은 학습시스템이 학습자의 학습효율을 높이기 위하여 학습 난이도를 평가 및 적용하고 있다. 그러나 대부분의 적용방법들은 학습 전 또는 학습 후 학습결과를 분석할 때 산출되어 학습자가 학습도중에 난이도를 변경하면서 학습 콘텐츠를 제공받기 어렵다. 본 연구에서는 학습자의 수준을 학습 과정 중에 적용하고, 이 수준에 맞는 학습 콘텐츠를 다음 학습에 바로 적용시키는 방법을 제시하였다. 이를 통해 학습자는 사전 검사를 통해 설정된 난이도에 따라 다음 학습 콘텐츠를 제공 받을 수 있어 학습향상에 도움이 될 수 있도록 하였다.

• 정보교육학회논문지
• /
• 제16권3호
• /
• pp.275-282
• /
• 2012

웹의 기술적 수준의 향상과 이를 이용하는 하드웨어의 급속한 발달은 문자 중심의 일방적 자료 탐색 기능만을 제공하던 웹을 쌍방향적이고 멀티미디어적인 환경으로 변화 시켰다. 그리고 이러한 변화는 웹의 교육적 활용성을 높이고 있다. 현존의 웹 기반 코스웨어는 개개인의 학습 능력에 따라 학습 내용과 학습 방법을 다르게 제시하는 개별화 학습이 부족하다. 따라서 학습자들은 개개의 학습능력에 상관없이 누구나 일률적으로 동일한 학습내용을 제공받고 있다. 본 연구는 학습자의 학습 성취정도와 학습과정에 따라 학습내용과 학습 방법을 다르게 제공하고자 한다. 즉, 학습자의 학습 성취정도와 학습과정을 분석하여 학습자에게 같은 학습내용이라 할지라도 각각의 습자에게 학습의 효율을 높일 수 있는 학습방법이 무엇인지를 찾아내어 학습자에게 가장 적합한 학습방법을 제공해 줄 수 있는 시스템을 설계 및 개발하였다. 특히 본 적응형 학습 시스템은 학습 과정마다 적절한 학습 스타일을 체크하여 동적 링크를 제공한다.