• 제목/요약/키워드: 순환신경망 모델

검색결과 198건 처리시간 0.027초

RNN모델에서 하이퍼파라미터 변화에 따른 정확도와 손실 성능 분석 (Analysis of Accuracy and Loss Performance According to Hyperparameter in RNN Model)

  • 김준용;박구락
    • 융합정보논문지
    • /
    • 제11권7호
    • /
    • pp.31-38
    • /
    • 2021
  • 본 논문은 감성 분석에 사용되는 RNN 모델의 최적화를 얻기 위한 성능분석을 위하여 하이퍼파라미터 튜닝에 따른 손실과 정확도의 추이를 관찰하여 모델과의 상관관계를 연구하였다. 연구 방법으로는 시퀀셜데이터를 처리하는데 가장 최적화된 LSTM과 Embedding layer로 히든레이어를 구성한 후, LSTM의 Unit과 Batch Size, Embedding Size를 튜닝하여 각각의 모델에 대한 손실과 정확도를 측정하였다. 측정 결과, 손실은 41.9%, 정확도는 11.4%의 차이를 나타내었고, 최적화 모델의 변화추이는 지속적으로 안정적인 그래프를 보여 하이퍼파라미터의 튜닝이 모델에 지대한 영향을 미침을 확인하였다. 또한 3가지 하이퍼파라미터 중 Embedding Size의 결정이 모델에 가장 큰 영향을 미침을 확인하였다. 향후 이 연구를 지속적으로 이어나가 모델이 최적의 하이퍼파라미터를 직접 찾아낼 수 있는 알고리즘에 대한 연구를 지속적으로 이어나갈 것이다.

딥러닝 기반의 실시간 입모양 인식 시스템 구현 (Real-Time Lip Reading System Implementation Based on Deep Learning)

  • 조동훈;김원준
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2020년도 추계학술대회
    • /
    • pp.267-269
    • /
    • 2020
  • 입모양 인식(Lip Reading) 기술은 입술 움직임을 통해 발화를 분석하는 기술이다. 본 논문에서는 일상적으로 사용하는 10개의 상용구에 대해서 발화자의 안면 움직임 분석을 통해 실시간으로 분류하는 연구를 진행하였다. 시간상의 연속된 순서를 가진 영상 데이터의 특징을 고려하여 3차원 합성곱 신경망 (Convolutional Neural Network)을 사용하여 진행하였지만, 실시간 시스템 구현을 위해 연산량 감소가 필요했다. 이를 해결하기 위해 차 영상을 이용한 2차원 합성곱 신경망과 LSTM 순환 신경망 (Long Short-Term Memory) 결합 모델을 설계하였고, 해당 모델을 이용하여 실시간 시스템 구현에 성공하였다.

  • PDF

뜰개 이동 예측을 위한 신경망 및 통계 기반 기계학습 기법의 성능 비교 (Performance Comparison of Machine Learning Based on Neural Networks and Statistical Methods for Prediction of Drifter Movement)

  • 이찬재;김경도;김용혁
    • 한국융합학회논문지
    • /
    • 제8권10호
    • /
    • pp.45-52
    • /
    • 2017
  • 뜰개는 해양에서 해수의 특성 및 흐름을 관측하기 위한 장비로서, 해수의 흐름 관측을 이용해 유출유 확산 예측을 위해 사용될 수 있다. 본 논문에서는 관측기관에서 사용하는 뜰개가 특정 시간 간격으로 관측한 바람 및 해수의 특성과 이동경로를 기계학습 기법들을 이용하여 학습시키고 예측하는 모델을 제안한다. 서포트벡터 회귀, 방사기저함수 네트워크, 가우시안 프로세스, 다층 퍼셉트론, 순환신경망을 이용하여 뜰개의 이동경로 예측 방법을 제시한다. 기존 MOHID 수치모델과 비교하여 각 기법별로 4 개의 사례중 3 개에서 성능이 개선되었으며, 가장 좋은 개선율을 보인 기법은 LSTM으로 평균 47.59% 개선되었다. 추후 연구에서는 배깅과 부스팅을 이용하여 가중치를 부여하여 정확도를 개선할 예정이다.

하천 범람 예측을 위한 인공지능 수위 예측 시스템 설계 (Design of Artificial Intelligence Water Level Prediction System for Prediction of River Flood)

  • 박세현;김현재
    • 한국정보통신학회논문지
    • /
    • 제24권2호
    • /
    • pp.198-203
    • /
    • 2020
  • 본 논문에서는 소규모 강의 범람 예측을 위한 인공 수위 예측 시스템을 제안한다. 강의 수위 예측은 홍수 피해를 줄일 수 있는 대책이 될 수 있다. 그러나 하천 범람에 영향을 미치는 강 또는 강우의 고유 특성으로 인해 범람 모델을 구축하기가 어렵다. 일반적으로 하류 수위는 상류의 인접한 수위에 영향을 받는다. 따라서 본 연구에서는 측정 지점에서 수위를 예측하기 위해 두 개의 상류 측정 지점의 수위를 순환신경망(LSTM)을 사용하여 인공 지능 모델을 구축했다. 제안 된 인공 지능 시스템은 수위 측정기를 설계하고 Nodejs를 사용하여 서버를 구축했다. 제안 된 신경망 하드웨어 시스템은 실제 강에서 6시간마다 수위를 잘 예측함을 알 수 있었다.

LSTM 언어모델 기반 한국어 문장 생성 (LSTM Language Model Based Korean Sentence Generation)

  • 김양훈;황용근;강태관;정교민
    • 한국통신학회논문지
    • /
    • 제41권5호
    • /
    • pp.592-601
    • /
    • 2016
  • 순환신경망은 순차적이거나 길이가 가변적인 데이터에 적합한 딥러닝 모델이다. LSTM은 순환신경망에서 나타나는 기울기 소멸문제를 해결함으로써 시퀀스 구성 요소간의 장기의존성을 유지 할 수 있다. 본 논문에서는 LSTM에 기반한 언어모델을 구성하여, 불완전한 한국어 문장이 입력으로 주어졌을 때 뒤 이어 나올 단어들을 예측하여 완전한 문장을 생성할 수 있는 방법을 제안한다. 제안된 방법을 평가하기 위해 여러 한국어 말뭉치를 이용하여 모델을 학습한 다음, 한국어 문장의 불완전한 부분을 생성하는 실험을 진행하였다. 실험 결과, 제시된 언어모델이 자연스러운 한국어 문장을 생성해 낼 수 있음을 확인하였다. 또한 문장 최소 단위를 어절로 설정한 모델이 다른 모델보다 문장 생성에서 더 우수한 결과를 보임을 밝혔다.

증류공정 내부 온도 예측을 위한 머신 러닝 모델 개발 (Development of Machine Learning Model for Predicting Distillation Column Temperature)

  • 권혁원;오광철;정용철;조형태;김정환
    • 공업화학
    • /
    • 제31권5호
    • /
    • pp.520-525
    • /
    • 2020
  • 본 연구에서는 증류공정의 제품 생산단 온도 예측을 위한 머신러닝 기반 모델을 개발하였다. 증류공정의 제어는 제품 생산단의 온도를 통해 이루어지고 있어 제어를 위해 정확한 온도 예측이 필요하다. 증류공정에서 온도는 다양한 변수들과 복잡한 비선형의 관계를 형성하고 있으며 시계열 데이터의 특성이 있어 이를 예측하기 위해 순환신경망 기반 알고리즘을 이용하였다. 모델 개발 과정에서 적절한 예측 알고리즘을 선정하기 위해 세 가지 순환신경망 기반 알고리즘과 배치 사이즈 조절하여 제품 생산단 온도를 예측하기 위한 가장 적저한 모델을 선정하였다. LSTM128 모델이 제품 생산단 온도를 예측하기 위한 가장 적절한 모델로 선정되었다. 선정된 모델을 활용하여 실제 공정 운전데이터에 적용한 결과 RMSE 0.0791, R2 0.924의 성능을 보였다.

음소기반의 순환 신경망 음성 검출기를 이용한 음성 향상 (Speech Enhancement using RNN Phoneme based VAD)

  • 이강;강상익;권장우;이상민
    • 전자공학회논문지
    • /
    • 제54권5호
    • /
    • pp.85-89
    • /
    • 2017
  • 본 논문에서는 향상된 연산 능력을 가진 하드웨어와 알고리즘의 혼합을 통하여 음성 향상을 위한 정확한 음성 검출기 구현을 목적으로 하였다. 음성은 음소의 나열로 구성되어있으며 음성 모델을 세우는데 적합한 방법은 이전의 정보를 이용하는 순환 신경망 (recurrent neural network, RNN)을 사용하는 것이다. 실제 존재하는 모든 잡음에 대하여 학습한 모델을 제시하는 것은 사실상 불가능 하므로 이를 극복하고자 음소기반 학습을 진행하였다. 학습의 결과로 세워진 모델을 기반으로 새로운 음성 신호에서 음성을 검출하고 그 결과를 이용하여 음성 향상을 진행하였다. 순환 신경망과 음소기반 학습은 프레임 별 높은 상관성을 가진 음성 신호에서 좋은 성능을 얻을 수 있었으며 음성 검출기의 성능을 검증하기 위하여 라벨 데이터와 음성 검출결과를 비교하고 다양한 잡음 환경에서 객관적 음질 평가를 진행하여 기존의 음성 향상 알고리즘과 비교하였다.

양방향 순환신경망 임베딩을 이용한 리그오브레전드 승패 예측 (Predicting Win-Loss of League of Legends Using Bidirectional LSTM Embedding)

  • 김철기;이수원
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제9권2호
    • /
    • pp.61-68
    • /
    • 2020
  • e-sports는 최근 꾸준한 성장을 이루면서 세계적인 인기 스포츠 종목이 되었다. 본 논문에서는 e-sports의 대표적인 게임인 리그오브레전드 경기 시작 단계에서의 승패 예측 모델을 제안한다. 리그오브레전드에서는 챔피언이라고 불리는 게임 상의 유닛을 플레이어가 선택하여 플레이하게 되는데, 각 플레이어의 선택을 통하여 구성된 팀의 챔피언 능력치 조합은 승패에 영향을 미친다. 제안 모델은 별다른 도메인 지식 없이 플레이어 단위 챔피언 능력치를 팀 단위 챔피언 능력치로 임베딩한 Bidirectional LSTM 임베딩 기반 딥러닝 모델이다. 기존 분류 모델들과 비교 결과 팀 단위 챔피언 능력치 조합을 고려한 제안 모델에서 58.07%의 가장 높은 예측 정확도를 보였다.

국내 외래객 출입국 데이터를 활용한 관광객 일별 수요 예측 인공지능 모델 연구 (A Study on Artificial Intelligence Model for Forecasting Daily Demand of Tourists Using Domestic Foreign Visitors Immigration Data)

  • 김동건;김동희;장승우;신성국;김광수
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2021년도 춘계학술대회
    • /
    • pp.35-37
    • /
    • 2021
  • 외래 관광객 수요를 분석하고 예측하는 것은 관광 정책을 수립하고 기획하는데 지대한 영향을 미치기 때문에 관광 산업 분야에서 매우 중요하다. 외래 관광객 데이터는 여러 외적 요인들에 의해 영향을 받기 때문에, 시간에 따른 미세한 변화가 많다는 특징을 갖는다. 따라서, 최근에는 관광객 입국자 수요를 예측하기 위해 경제 변수 등 여러 외적 요인들도 함께 반영하여 예측 모델을 설계하는 연구를 진행하고 있다. 그러나 기존의 시계열 예측에 주로 사용되는 회귀분석 모델과 순환신경망 모델은 여러 변수들을 반영하는 시계열 예측에 있어 좋은 성능을 보이지 못했다. 따라서 우리는 합성곱 신경망을 활용하여 이러한 한계점들을 보완한 외래 관광객 수요 예측 모델을 소개한다. 본 논문에서는 한국관광공사에서 제공한 과거 10개년 외래 관광객 데이터와 추가적으로 수집한 여러 외적 요인들을 입력 변수로 반영하는 1차원 합성곱 신경망을 설계하여 외래 관광객 수요를 예측하는 모델을 제시한다.

  • PDF

다변수 LSTM 순환신경망 딥러닝 모형을 이용한 미술품 가격 예측에 관한 실증연구 (An Empirical Study on Prediction of the Art Price using Multivariate Long Short Term Memory Recurrent Neural Network Deep Learning Model)

  • 이지인;송정석
    • 한국콘텐츠학회논문지
    • /
    • 제21권6호
    • /
    • pp.552-560
    • /
    • 2021
  • 새로운 미술품 유통방식의 발달로 미술품의 미적 효용을 넘어 투자재로서 바라보는 시각이 활성화되고 있다. 미술품의 가격은 주식이나 채권 등과 달리 객관적 요소와 주관적 요소들이 모두 반영되어 결정되는 이질적 특성이 있기 때문에 가격 예측에 있어서 그 불확실성이 높다. 본 연구에서는 LSTM(장단기 기억) 순환신경망 딥러닝 모형을 활용하여 낙찰총액 순위 1위부터 10위까지의 한국 작가의 회화 작품을 대상으로 작가의 특성, 작품의 물리적 특성, 판매적 특성 등을 입력으로 하여 경매 낙찰가의 예측을 시도하였다. 연구 결과, 모델에 의한 예측 가격과 실제 낙찰 가격의 차이를 설명하는 RMSE 값이 0.064 수준이었으며 작가별로는 이대원 작가의 예측력이 가장 높았고, 이중섭 작가의 예측력이 가장 낮았다. 투자재로서 미술품 시장이 더욱 활성화되고 경매 낙찰 가격의 예측 수요가 높아지면서 본 연구의 결과가 활용될 수 있을 것이다.