• 제목/요약/키워드: Long-term memory

검색결과 808건 처리시간 0.029초

허스트 지수 산정 방법에 대한 고찰 (On the Estimation Techniques of Hurst exponent)

  • 김병식;김형수;서병하
    • 한국수자원학회논문집
    • /
    • 제37권12호
    • /
    • pp.993-1007
    • /
    • 2004
  • 허스트 지수를 산정하기 위하여 기존에 여러 방법론들이 제안되어 왔다. 그러나, 이들 방법론들은 시계열들의 지속성에 대하여 각기 다른 특성들을 보이고 있음을 기존의 연구에서 알 수 있다 따라서 본 연구에서는 수문학에서 주로 이용하고 있는 보정용량, 조정용량, 수정조정용량 방법 이외에 생리학 분야와 전자 분야 등에서 이용되고 있는 1/f 파워 스펙트럼 밀도 분석, DFA, AVT 방법, 최우도법 등을 이용하여 허스트 지수를 산정하여 보았다. 즉, 단기간과 장기간 기억을 가진 카오스와 추계학적 시계열들에 대하여 각각의 방법들을 적용하여 비교 분석하고자 하였으며, 각 방법론들에 대한 장점 및 단점 그리고 한계에 대하여 논의하였다.

Maximizing Information Transmission for Energy Harvesting Sensor Networks by an Uneven Clustering Protocol and Energy Management

  • Ge, Yujia;Nan, Yurong;Chen, Yi
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권4호
    • /
    • pp.1419-1436
    • /
    • 2020
  • For an energy harvesting sensor network, when the network lifetime is not the only primary goal, maximizing the network performance under environmental energy harvesting becomes a more critical issue. However, clustering protocols that aim at providing maximum information throughput have not been thoroughly explored in Energy Harvesting Wireless Sensor Networks (EH-WSNs). In this paper, clustering protocols are studied for maximizing the data transmission in the whole network. Based on a long short-term memory (LSTM) energy predictor and node energy consumption and supplement models, an uneven clustering protocol is proposed where the cluster head selection and cluster size control are thoroughly designed for this purpose. Simulations and results verify that the proposed scheme can outperform some classic schemes by having more data packets received by the cluster heads (CHs) and the base station (BS) under these energy constraints. The outcomes of this paper also provide some insights for choosing clustering routing protocols in EH-WSNs, by exploiting the factors such as uneven clustering size, number of clusters, multiple CHs, multihop routing strategy, and energy supplementing period.

Preliminary Study of Deep Learning-based Precipitation

  • Kim, Hee-Un;Bae, Tae-Suk
    • 한국측량학회지
    • /
    • 제35권5호
    • /
    • pp.423-430
    • /
    • 2017
  • Recently, data analysis research has been carried out using the deep learning technique in various fields such as image interpretation and/or classification. Various types of algorithms are being developed for many applications. In this paper, we propose a precipitation prediction algorithm based on deep learning with high accuracy in order to take care of the possible severe damage caused by climate change. Since the geographical and seasonal characteristics of Korea are clearly distinct, the meteorological factors have repetitive patterns in a time series. Since the LSTM (Long Short-Term Memory) is a powerful algorithm for consecutive data, it was used to predict precipitation in this study. For the numerical test, we calculated the PWV (Precipitable Water Vapor) based on the tropospheric delay of the GNSS (Global Navigation Satellite System) signals, and then applied the deep learning technique to the precipitation prediction. The GNSS data was processed by scientific software with the troposphere model of Saastamoinen and the Niell mapping function. The RMSE (Root Mean Squared Error) of the precipitation prediction based on LSTM performs better than that of ANN (Artificial Neural Network). By adding GNSS-based PWV as a feature, the over-fitting that is a latent problem of deep learning was prevented considerably as discussed in this study.

Anti-dementia Effects of Gouteng-san and Si-Wu-Tang

  • Watanabe, Hiroshi
    • Toxicological Research
    • /
    • 제17권
    • /
    • pp.257-261
    • /
    • 2001
  • Recently, a traditional medicine called Gouteng-san, which consists of eleven herbs, was reported to be effective in treating vascular dementia with a double-blind, placebo-controlled study. Gout-eng-san is also used for patients with vascular dementia in combination with Si-Wu-Tang. The effect of Gouteng-san and Si-Wu-Tang on deficit of learning behavior was investigated using step-down passive avoidance task in mice. Hot-water extract of Gouteng-san (1.5 and 6 g/kg, p.o.) significantly prolonged the step-down latency shortened by scopolamine. The extract of Uncaria hook (150 mg/kg, p.o.), one of the component herb of Gouteng-san, significantly prevented the decrease in the latency after scopolamine. Hot-water extract of Si-Wu-Tang (1.5 and 6 g/kg of dried herbs, p.o.) prevented dose-dependently scopola-mine-induced disruption qf learning behavior. Si-Wu-Tang also prevented the ischemia-induced deficit of learning behavior. Both hot water extract of peony and angelica (1.5 g/kg, p.o.), which are component herbs qf Si-Wu-Tang, prevented the scopolamine-induced learning behavior deficit. Scopolamine (10 uM) suppressed long-term potentiation (LTP) of population spike in the CA1 region of the rat hippocampal slices. Peoniflorin (0.1~ 1uM) extracted from paeony root significantly ameliorated scopolamine-induced inhibition of LTR These results suggest that improvement of deficit of learning behavior by Gouteng-san and Si-Wu-Tang is mediated by direct and/or indirect activation of the cholinergic system in the brain.

  • PDF

한국어 상대시간관계 추출을 위한 LSTM 기반 모델 설계 (Design of LSTM-based Model for Extracting Relative Temporal Relations for Korean Texts)

  • 임채균;정영섭;이영준;오교중;최호진
    • 한국어정보학회:학술대회논문집
    • /
    • 한국어정보학회 2017년도 제29회 한글및한국어정보처리학술대회
    • /
    • pp.301-304
    • /
    • 2017
  • 시간정보추출 연구는 자연어 문장으로부터 대화의 문맥과 상황을 파악하고 사용자의 의도에 적합한 서비스를 제공하는데 중요한 역할을 하지만, 한국어의 고유한 언어적 특성으로 인해 한국어 텍스트에서는 개체간의 시간관계를 정확하게 인식하기 어려운 경향이 있다. 특히, 시간표현이나 사건에 대한 상대적인 시간관계는 시간 문맥을 체계적으로 파악하기 위해 중요한 개념이다. 본 논문에서는 한국어 자연어 문장에서 상대적인 시간표현과 사건 간의 관계를 추출하기 위한 LSTM(long short-term memory) 기반의 상대시간관계 추출 모델을 제안한다. 시간정보추출 연구에는 TIMEX3, EVENT, TLINK 추출의 세 가지 과정이 포함되지만, 본 논문에서는 특정 문장에 대해서 이미 추출된 TIMEX3 및 EVENT 개체를 제공하고 상대시간관계 TLINK를 추출하는 것만을 목표로 한다. 또한, 사람이 직접 태깅한 한국어 시간정보 주석 말뭉치를 대상으로 LSTM 기반 제안모델들의 상대적 시간관계 추출 성능을 비교한다.

  • PDF

다중 레프런스 프레임 기반의 에러에 강인한 동영상 부호화 기법 (Multiple Reference Frame based Error-Resilient Video Coding)

  • 정한승;김인철;이상욱
    • 한국통신학회논문지
    • /
    • 제26권10B호
    • /
    • pp.1382-1389
    • /
    • 2001
  • 움직임 보상-이산 코사인 변환 (motion compensation-discrete cosine transform : MC-DCT) 기반의 동영상 부호화 기법이 부호화 효율성 및 구현의 단순성으로 인해 널리 사용되고 있으나, 에러 환경에서 구조적으로 취약한 면이 있다. 본 논문에서는 다중 메모리 움직임 보상 예측 (long-term memory motion compensated prediction : LTMP) 기반의 다중 레프런스 프레임을 사용하여 에러에 강인한 동영상 부호화 기법을 제안한다. 또한 제안하는 알고리듬에 기반한 에러 은닉 기법 (error concealment : EC)을 구현한다. 즉, R-D (rate-distortion) 최적화에 프레임간 움직임 벡터 (temporal motion vectors)의 확산 인자를 추가하여 에러에 대한 강인성 및 에러 은닉 기법의 효율성을 증가시켰다. 또한, 제안하는 알고리듬은 시간축상의 에러 전파를 피드백 정보 (negative acknowledgement : NAK)를 사용하여 억제한다. 즉, NAK는 채널 에러에 의해 손실된 영역과 에러가 전파된 영역을 추정하여 움직임 보상 영역에서 제외되도록 하는데 이용된다. 따라서, 제안하는 알고리듬은 PSNR 측면에서 FIU (forced intra update)에 근사하는 성능을 보이나, FIU와는 달리 비트율의 증가를 피할 수 있어 제한된 대역폭의 네트웍을 효율적으로 사용할 수 있다. 컴퓨터 모의 실험을 통해 제안하는 알고리듬이 기존의 H.263 및 LTMP 기반의 부호기에 비해 에러 환경에서 주관적 및 객관적 화질 측면에서 성능이 우수함을 보인다.

  • PDF

센서 측정기와 회로형 순환 유닛(GRU)을 이용한 실내 공기 품질 측정 및 추세 예측 시스템 (Indoor Air Condition Measurement and Regression Analysis System Through Sensor Measurement Device and Gated Recurrent Unit)

  • 안재현;신동일;김규호;양지훈
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제6권9호
    • /
    • pp.457-464
    • /
    • 2017
  • 실내 공기 품질 측정은 측정 대상 공간의 대기 상태 유지, 외부 변인으로 인한 대기 이상 현상을 검출하려는 방법이다. 실내 공기 품질을 주기적으로 기록하면서 변인에 따른 공기 변화에 특정 패턴이 발생함을 관측할 수 있었으나, 파라미터를 설정하고 계수를 찾아 나가기엔 파라미터의 개수나 그 영향력을 추산하기 어렵고 결과가 시간에 의존적이라는 문제가 있다. 따라서 본 실험은 이것을 공식화하는 대신, 측정 주기마다 추이를 예측하는 관측치 중심의 기계 학습 모델을 개발하는 것을 목표로 한다. 본 논문은 실내 대기 품질을 주기적으로 전송 및 저장하는 측정기의 기록 데이터로 공기 품질 변화를 예측하는 모델을 설명하고 시계열 분석 모델을 구축한다.

CRFs와 Bi-LSTM/CRFs의 비교 분석: 자동 띄어쓰기 관점에서 (CRFs versus Bi-LSTM/CRFs: Automatic Word Spacing Perspective)

  • 윤호;김창현;천민아;박호민;남궁영;최민석;김재훈
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2018년도 제30회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.189-192
    • /
    • 2018
  • 자동 띄어쓰기란 컴퓨터를 사용하여 띄어쓰기가 수행되어 있지 않은 문장에 대해 띄어쓰기를 수행하는 것이다. 이는 자연언어처리 분야에서 형태소 분석 전에 수행되는 과정으로, 띄어쓰기에 오류가 발생할 경우, 형태소 분석이나 구문 분석 등에 영향을 주어 그 결과의 모호성을 높이기 때문에 매우 중요한 전처리 과정 중 하나이다. 본 논문에서는 기계학습의 방법 중 하나인 CRFs(Conditional Random Fields)를 이용하여 자동 띄어쓰기를 수행하고 심층 학습의 방법 중 하나인 양방향 LSTM/CRFs (Bidirectional Long Short Term Memory/CRFs)를 이용하여 자동 띄어쓰기를 수행한 뒤 각 모델의 성능을 비교하고 분석한다. CRFs 모델이 양방향 LSTM/CRFs모델보다 성능이 약간 더 높은 모습을 보였다. 따라서 소형 기기와 같은 환경에서는 CRF와 같은 모델을 적용하여 모델의 경량화 및 시간복잡도를 개선하는 것이 훨씬 더 효과적인 것으로 생각된다.

  • PDF

River streamflow prediction using a deep neural network: a case study on the Red River, Vietnam

  • Le, Xuan-Hien;Ho, Hung Viet;Lee, Giha
    • 농업과학연구
    • /
    • 제46권4호
    • /
    • pp.843-856
    • /
    • 2019
  • Real-time flood prediction has an important role in significantly reducing potential damage caused by floods for urban residential areas located downstream of river basins. This paper presents an effective approach for flood forecasting based on the construction of a deep neural network (DNN) model. In addition, this research depends closely on the open-source software library, TensorFlow, which was developed by Google for machine and deep learning applications and research. The proposed model was applied to forecast the flowrate one, two, and three days in advance at the Son Tay hydrological station on the Red River, Vietnam. The input data of the model was a series of discharge data observed at five gauge stations on the Red River system, without requiring rainfall data, water levels and topographic characteristics. The research results indicate that the DNN model achieved a high performance for flood forecasting even though only a modest amount of data is required. When forecasting one and two days in advance, the Nash-Sutcliffe Efficiency (NSE) reached 0.993 and 0.938, respectively. The findings of this study suggest that the DNN model can be used to construct a real-time flood warning system on the Red River and for other river basins in Vietnam.

Speaker Adaptation Using i-Vector Based Clustering

  • Kim, Minsoo;Jang, Gil-Jin;Kim, Ji-Hwan;Lee, Minho
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권7호
    • /
    • pp.2785-2799
    • /
    • 2020
  • We propose a novel speaker adaptation method using acoustic model clustering. The similarity of different speakers is defined by the cosine distance between their i-vectors (intermediate vectors), and various efficient clustering algorithms are applied to obtain a number of speaker subsets with different characteristics. The speaker-independent model is then retrained with the training data of the individual speaker subsets grouped by the clustering results, and an unknown speech is recognized by the retrained model of the closest cluster. The proposed method is applied to a large-scale speech recognition system implemented by a hybrid hidden Markov model and deep neural network framework. An experiment was conducted to evaluate the word error rates using Resource Management database. When the proposed speaker adaptation method using i-vector based clustering was applied, the performance, as compared to that of the conventional speaker-independent speech recognition model, was improved relatively by as much as 12.2% for the conventional fully neural network, and by as much as 10.5% for the bidirectional long short-term memory.