Smart Media Journal (스마트미디어저널)

THE KOREAN INSTITUTE OF SMART MEDIA (한국스마트미디어학회)
권호 표지
DOI QR코드

DOI QR Code

Multi-Emotion Regression Model for Recognizing Inherent Emotions in Speech Data

음성 데이터의 내재된 감정인식을 위한 다중 감정 회귀 모델

  • 이명호 (조선대학교 전자공학과) ;
  • 임명진 (조선대학교 신산업융합학부) ;
  • 신주현 (조선대학교 신산업융합학부)
  • Received : 2023.10.09
  • Accepted : 2023.10.24
  • Published : 2023.10.31
Download PDF
⟨ Previous Next ⟩

Abstract

Recently, communication through online is increasing due to the spread of non-face-to-face services due to COVID-19. In non-face-to-face situations, the other person's opinions and emotions are recognized through modalities such as text, speech, and images. Currently, research on multimodal emotion recognition that combines various modalities is actively underway. Among them, emotion recognition using speech data is attracting attention as a means of understanding emotions through sound and language information, but most of the time, emotions are recognized using a single speech feature value. However, because a variety of emotions exist in a complex manner in a conversation, a method for recognizing multiple emotions is needed. Therefore, in this paper, we propose a multi-emotion regression model that extracts feature vectors after preprocessing speech data to recognize complex, inherent emotions and takes into account the passage of time.

최근 코로나19로 인한 비대면 서비스의 확산으로 온라인을 통한 소통이 증가하고 있다. 비대면 상황에서는 텍스트나 음성, 이미지 등의 모달리티를 통해 상대방의 의견이나 감정을 인식하고 있다. 현재 다양한 모달리티를 결합한 멀티모달 감정인식에 관한 연구가 활발하게 진행되고 있다. 그중 음성 데이터를 활용한 감정인식은 음향 및 언어정보를 통해 감정을 이해하는 수단으로 주목하고 있으나 대부분 단일한 음성 특징값으로 감정을 인식하고 있다. 하지만 대화문에는 다양한 감정이 복합적으로 존재하기 때문에 다중 감정을 인식하는 방법이 필요하다. 따라서 본 논문에서는 복합적으로 존재하는 내재된 감정인식을 위해 음성 데이터를 전처리한 후 특징 벡터를 추출하고 시간의 흐름을 고려한 다중 감정 회귀 모델을 제안한다.

Keywords

Acknowledgement

본 성과는 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수앻된 연구(No. 2023R1A2C1006419)이며, 2023학년도 조선대학교 학술연구비의 지원을 받아 연구되었음.

References

  1. 오병훈, 홍광석, "이미지, 음성, 뇌파를 이용한 다차원 감성모델 기반 다중모달 복합감정인식 시스템," 한국정보처리학회 춘계학술발표대회 논문집, pp. 821-823, 동국대학교, 대한민국, 2016년 4월
  2. 홍택은, 김정인, 신주현, "인스타그램 이미지와 텍스트 분석을 통한 사용자 감정 분류," 스마트미디어저널, 제5권, 제1호, 61-燃쪽, 2016년 3월
  3. 임현택, 김수형, 이귀상, 양형정, "RoutingConvNet: 양방향 MFC C기반 경량 음성감정인식 모델, "스마트미디어저널, 제12권, 제5호, 28-35쪽, 2023년 12월
  4. N.Dave, "Feature Extraction Methods LPC PLP and MFCC in Speech Recognition," International Journal for Advance Research in Engineering and Technology, Vol. 1, pp. 1-5, Jul. 2013.
  5. Steven B.Davis, Paul Mermelstein, "Comparsion of parametric representations for monosyllabic word recognition in continuously spoken sentences," IEEE Transactions on Acoustics, Speech, and Signal Processing, Vol. 81, No. 9, pp.1215-1247, 1993.
  6. Likitha, M. S., et al., "Speech based human emotion recognition using MFCC," 2017 International Con-ference on Wireless Communications, Signal Proce-ssing and Networking (WiSPNET). IEEE, pp. 2257-2260, 2017.
  7. 박정준, "자기지도학습 기법을 통해 추출된 저대역 음성 특징벡터 기반 종단간 한국어 음성인식", 연세대학교 공학대학원 석사학위논문, 2022년 8월
  8. J. Seunghoon, "wav2vec 2.0-based Mispronunciation Detection Using Cross-lingual Fine-tuning," Domestic Master's Thesis Seoul National University Graduate School, 2022.
  9. S. Schneider, A. Baevski, R. Collobert, and M. Auli, "wav2vec: Unsupervised Pre-Training for Speech Recogni-tion," inProc. Interspeech 2019, pp. 3465-3469, 2019.
  10. A. Baevski, S. Schneider, and M. Auli, "Vq-Wav2vec: Self-supervisedlearning of discrete speech representations," inProc. Int. Corf. Learn.Represent., Sep. pp. 1 -12, 2019.
  11. A. Baevski, H. Zhou, A. Mohamed, and M. Auli, "Wav2vec 2.0: A frame-work for self-supervised learning of speech representations," Advances in neural information processing systems, pp. 12449-12460, 2020.
  12. 이명호, 임명진, 신주현, "텍스트와 음성의 앙상블을 통한 다중 감정인식 모델," 스마트미디어저널, 제11권, 제8호, 65-72쪽, 2022년 9월 https://doi.org/10.30693/SMJ.2022.11.8.65