• 제목/요약/키워드: Long short-term memory network

검색결과 324건 처리시간 0.487초

DNN 및 LSTM 기반 딥러닝 모형을 활용한 태화강 유역의 수위 예측 (Water level prediction in Taehwa River basin using deep learning model based on DNN and LSTM)

  • 이명진;김종성;유영훈;김형수;김삼은;김수전
    • 한국수자원학회논문집
    • /
    • 제54권spc1호
    • /
    • pp.1061-1069
    • /
    • 2021
  • 최근 이상 기후로 인해 극한 호우 및 국지성 호우의 규모 및 빈도가 증가하여 하천 주변의 홍수 피해가 증가하고 있다. 이에 따라 하천 또는 유역 내 수문학적 시스템의 비선형성이 증가하고 있으며, 기존의 물리적 기반의 수문 모형을 활용하여 홍수위를 예측하기에는 선행시간이 부족한 한계점이 존재한다. 본 연구에서는 Deep Neural Network (DNN) 및 Long Short-Term Memory (LSTM)기반의 딥러닝 기법을 적용하여 울산시(태화교) 지점의 수위를 0, 1, 2, 3, 6, 12시간에 대해 선행 예측을 수행하였고 예측 정확도를 비교 분석하였다. 그 결과 sliding window 개념을 적용한 DNN 모형이 선행시간 12시간까지 상관계수 0.97, RMSE 0.82 m로 가장 높은 정확도를 보이고 있음을 확인하였다. 향후 DNN 모형을 활용하여 딥러닝 기반의 수위 예측을 수행한다면 기존의 물리적 모형을 통한 홍수위 예측보다 향상된 예측 정확도와 충분한 선행시간을 확보할 수 있을 것으로 판단된다.

뉴로제어 및 반복학습제어 기법을 결합한 미지 비선형시스템의 적응학습제어 (Adaptive Learning Control fo rUnknown Monlinear Systems by Combining Neuro Control and Iterative Learning Control)

  • 최진영;박현주
    • 한국지능시스템학회논문지
    • /
    • 제8권3호
    • /
    • pp.9-15
    • /
    • 1998
  • 본 논문은 뉴로제어 및 반복학습 제어기법에 기반한 미지의 비선형시스템의 적응학습제어 방법을 제안한다. 제안된 제어 시스템에서 반복학습제어기는 새로운 기준 궤적에 대해 시스템의 출력이 원하는 궤적으로 정확히 수렴하도록 하는 적응과 단기간 제어정보를 기억하는 기능을 수행한다. 상대차수만 알고 있는 미지 시스템에 대한 박복학습 법칙이 학습이득은 신경회로망을 이용하여 추정된다. 반복학습제어기에 의해 습득된 제어정보는 장기메모리에 기반한 앞먹임 뉴로제어기로 이전되어 누적기억됨으로써 과거에 겸험된 기준 궤적에 대해서는 신속하게 추종할 수 있도록 한다. 2자유도 매니퓰레이터에 적용하여 제안된 기법의 타당성을 검증한다.

  • PDF

딥러닝을 이용한 이변량 장기종속시계열 예측 (Bivariate long range dependent time series forecasting using deep learning)

  • 김지영;백창룡
    • 응용통계연구
    • /
    • 제32권1호
    • /
    • pp.69-81
    • /
    • 2019
  • 본 논문에서는 딥러닝을 이용한 이변량 장기종속시계열(long-range dependent time series) 예측을 고려하였다. 시계열 데이터 예측에 적합한 LSTM(long short-term memory) 네트워크를 이용하여 이변량 장기종속시계열을 예측하고 이를 이변량 FARIMA(fractional ARIMA) 모형인 FIVARMA 모형과 VARFIMA 모형과의 예측 성능을 실증 자료 분석을 통해 비교하였다. 실증 자료로는 기능적 자기공명 영상(fMRI) 및 일일 실현 변동성(daily realized volatility) 자료를 이용하였으며 표본외 예측(out-of sample forecasting) 오차 비교를 통해 예측 성능을 측정하였다. 그 결과, FIVARMA 모형과 VARFIMA 모형의 예측값에는 미묘한 차이가 존재하며, LSTM 네트워크의 경우 초매개변수 선택으로 복잡해 보이지만 계산적으로 더 안정되면서 예측 성능도 모수적 장기종속시계열과 뒤지지 않은 좋은 예측 성능을 보였다.

리튬 이온 배터리의 충전 상태 추정을 위한 LSTM 네트워크 학습 방법 비교 (Comparison of Learning Techniques of LSTM Network for State of Charge Estimation in Lithium-Ion Batteries)

  • 홍선리;강모세;김건우;정학근;백종복;김종훈
    • 전기전자학회논문지
    • /
    • 제23권4호
    • /
    • pp.1328-1336
    • /
    • 2019
  • 안전하고 최적의 배터리 성능을 유지하기 위해 정확한 충전상태(SOC) 추정 기술이 필수적이다. 본 논문에서는 기존의 전류적산 방법이 가지고 있는 문제를 해결하기 위해 시간 종속성을 가지는 인공지능 기반의 LSTM을 이용한 SOC 추정 방법을 적용하였다. 훈련과 검증에 필요한 데이터는 전기적 실험을 통해 일정 크기로 방전된 전류, 전압, 온도를 수집하였고 학습을 위한 입력데이터의 질을 향상시키기 위해 데이터 전처리를 수행하였다. 또한, LSTM 모델의 구조 및 하이퍼파라미터 설정에 따른 학습 능력과 SOC 추정 성능을 비교하였다. 학습한 모델은 UDDS 프로파일을 통해 검증하였으며, RMSE 0.82%, MAX 2.54%의 추정 정확도를 달성하였다.

순환신경망을 이용한 질병발생건수 예측 (Predicting the number of disease occurrence using recurrent neural network)

  • 이승현;여인권
    • 응용통계연구
    • /
    • 제33권5호
    • /
    • pp.627-637
    • /
    • 2020
  • 본 논문에서는 건강보험심사평가원에서 제공한 약 120만명의 2014년 고령환자의료자료(HIRA-APS-2014-0053)과 기상자료를 일반화추정방정식(generalized estimating equation; GEE) 모형과 long short term memory (LSTM) 기반 순환신경망(recurrent neural network; RNN) 모형으로 분석하여 기상 조건에 따른 주요 주상병의 발생 빈도를 예측한다. 이를 위해 환자가 의료 서비스를 받은 기관의 지역을 이용하여 환자의 거주지를 추정하고 해당 지역의 주별 기상 관측소 자료와 의료자료를 병합하였다. 질병 발생 상태를 세 개의 범주(질병에 걸리지 않음, 관심 주상병 발생, 다른 질병 방생)로 나누었으며 각 범주에 속할 확률을 GEE 모형과 RNN 모형으로 추정하였다. 각 범주별 발생 건수는 해당 범주의 속할 추정확률의 합으로 계산하였으며 비교분석결과 RNN을 이용한 예측이 GEE를 이용한 예측보다 정확도가 높은 것으로 나타났다.

A SE Approach for Real-Time NPP Response Prediction under CEA Withdrawal Accident Conditions

  • Felix Isuwa, Wapachi;Aya, Diab
    • 시스템엔지니어링학술지
    • /
    • 제18권2호
    • /
    • pp.75-93
    • /
    • 2022
  • Machine learning (ML) data-driven meta-model is proposed as a surrogate model to reduce the excessive computational cost of the physics-based model and facilitate the real-time prediction of a nuclear power plant's transient response. To forecast the transient response three machine learning (ML) meta-models based on recurrent neural networks (RNNs); specifically, Long Short Term Memory (LSTM), Gated Recurrent Unit (GRU), and a sequence combination of Convolutional Neural Network (CNN) and LSTM are developed. The chosen accident scenario is a control element assembly withdrawal at power concurrent with the Loss Of Offsite Power (LOOP). The transient response was obtained using the best estimate thermal hydraulics code, MARS-KS, and cross-validated against the Design and control document (DCD). DAKOTA software is loosely coupled with MARS-KS code via a python interface to perform the Best Estimate Plus Uncertainty Quantification (BEPU) analysis and generate a time series database of the system response to train, test and validate the ML meta-models. Key uncertain parameters identified as required by the CASU methodology were propagated using the non-parametric Monte-Carlo (MC) random propagation and Latin Hypercube Sampling technique until a statistically significant database (181 samples) as required by Wilk's fifth order is achieved with 95% probability and 95% confidence level. The three ML RNN models were built and optimized with the help of the Talos tool and demonstrated excellent performance in forecasting the most probable NPP transient response. This research was guided by the Systems Engineering (SE) approach for the systematic and efficient planning and execution of the research.

고속 푸리에 변환 및 심층 신경망을 사용한 전력 품질 외란 감지 및 분류 (Power Quality Disturbances Detection and Classification using Fast Fourier Transform and Deep Neural Network)

  • 첸센폰;임창균
    • 한국전자통신학회논문지
    • /
    • 제18권1호
    • /
    • pp.115-126
    • /
    • 2023
  • 무작위 및 주기적인 변동하는 재생에너지 발전 전력 품질 교란으로 인해 발전 변환 송전 및 배전에서 더 자주 발생하게 된다. 전력 품질 교란은 장비 손상 또는 정전으로 이어질 수 있다. 따라서 서로 다른 전력 품질 외란을 실시간으로 자동감지하고 분류하는 것이 필요하다. 전통적인 PQD 식별 방법은 특징 추출 특징 선택 및 분류의 세 단계로 구성된다. 그러나 수동으로 생성한 특징은 선택 단계에서 정확성을 보장하기 힘들어서 분류 정확도를 향상하는 데에는 한계가 있다. 본 논문에서는 16가지 종류의 전력 품질 신호를 인식하기 위해 CNN(Convolution Neural Networ)과 LSTM(Long Short Term Memory)을 기반으로 시간 영역과 주파수 영역의 특징을 결합한 심층 신경망 구조를 제안하였다. 주파수 영역 데이터는 주파수 영역 특징을 효율적으로 추출할 수 있는 FFT(Fast Fourier Transform)로 얻었다. 합성 데이터와 실제 6kV 전력 시스템 데이터의 성능은 본 연구에서 제안한 방법이 다른 딥러닝 방법보다 일반화되었음을 보여주었다.

Mapping the Potential Distribution of Raccoon Dog Habitats: Spatial Statistics and Optimized Deep Learning Approaches

  • Liadira Kusuma Widya;Fatemah Rezaie;Saro Lee
    • Proceedings of the National Institute of Ecology of the Republic of Korea
    • /
    • 제4권4호
    • /
    • pp.159-176
    • /
    • 2023
  • The conservation of the raccoon dog (Nyctereutes procyonoides) in South Korea requires the protection and preservation of natural habitats while additionally ensuring coexistence with human activities. Applying habitat map modeling techniques provides information regarding the distributional patterns of raccoon dogs and assists in the development of future conservation strategies. The purpose of this study is to generate potential habitat distribution maps for the raccoon dog in South Korea using geospatial technology-based models. These models include the frequency ratio (FR) as a bivariate statistical approach, the group method of data handling (GMDH) as a machine learning algorithm, and convolutional neural network (CNN) and long short-term memory (LSTM) as deep learning algorithms. Moreover, the imperialist competitive algorithm (ICA) is used to fine-tune the hyperparameters of the machine learning and deep learning models. Moreover, there are 14 habitat characteristics used for developing the models: elevation, slope, valley depth, topographic wetness index, terrain roughness index, slope height, surface area, slope length and steepness factor (LS factor), normalized difference vegetation index, normalized difference water index, distance to drainage, distance to roads, drainage density, and morphometric features. The accuracy of prediction is evaluated using the area under the receiver operating characteristic curve. The results indicate comparable performances of all models. However, the CNN demonstrates superior capacity for prediction, achieving accuracies of 76.3% and 75.7% for the training and validation processes, respectively. The maps of potential habitat distribution are generated for five different levels of potentiality: very low, low, moderate, high, and very high.

시계열 데이터 활용에 관한 동향 연구 (A Study on Trend Using Time Series Data)

  • 최신형
    • 산업과 과학
    • /
    • 제3권1호
    • /
    • pp.17-22
    • /
    • 2024
  • 인류의 출현과 함께 시작된 역사에는 기록이라는 수단이 있기에 현재에 사는 우리는 데이터를 통해 과거를 확인할 수 있다. 생성되는 데이터는 일정 순간에만 발생하여 저장될 수도 있지만, 과거로부터 현재까지 일정 시간 간격 동안 계속해서 생성될 뿐만 아니라 다가올 미래에도 발생함으로써 이를 활용하여 예측하는 것 또한 중요한 작업이다. 본 논문은 수많은 데이터 중에서 시계열 데이터의 활용 동향을 알아보기 위해서 시계열 데이터의 개념에서부터 머신러닝 분야에서 시계열 데이터 분석에 주로 사용되는 Recurrent Neural Network와 Long-Short Term Memory에 대해 분석하고, 이런 모델들을 활용한 사례의 조사를 통해 의료 진단, 주식 시세 분석, 기후 예측 등 다양한 분야에 활용되어 높은 예측 결과를 보이고 있음을 확인하였고, 이를 바탕으로 향후 활용방안에 대하여 모색해본다.

음성을 통한 감정 해석: 감정 인식을 위한 딥 뉴럴 네트워크 예비 연구 (Unraveling Emotions in Speech: Deep Neural Networks for Emotion Recognition)

  • 에드워드 카야디;송미화
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.411-412
    • /
    • 2023
  • Speech emotion recognition(SER) is one of the interesting topics in the machine learning field. By developing SER, we can get numerous benefits. By using a convolutional neural network and Long Short Term Memory (LSTM ) method as a part of Artificial intelligence, the SER system can be built.