DOI QR코드

DOI QR Code

Stereo Audio Matched with 3D Video

3D영상에 정합되는 스테레오 오디오

  • 박성욱 (강릉원주대학교 전자공학과) ;
  • 정태윤 (강릉원주대학교 전자공학과)
  • Received : 2011.02.19
  • Accepted : 2011.04.15
  • Published : 2011.04.25

Abstract

This paper presents subjective experimental results to understand how audio should be changed when a video clip is watched in 3D than 2D. This paper divided auditory perceptual information into two categories; distance and azimuth that a sound source contributes mostly, and spaciousness that scene or environment contribute mostly. According to the experiment for distance and azimuth, i.e. sound localization, we found that distance and azimuth of sound sources were magnified when heard with 3D than 2D video. This lead us to conclude 3D sound for localization should be designed to have more distance and azimuth than 2D sound. Also we found 3D sound are preferred to be played with not only 3D video clip but also 2D video clip. According to the experiment for spaciousness, we found people prefer sound with more reverberation when they watch 3D video clips than 2D video clips. This can be understood that 3D video provides more spacial information than 2D video. Those subjective experimental results can help audio engineer familiar with 2D audio to create 3D audio, and be fundamental information of future research to make 2D to 3D audio conversion system. Furthermore when designing 3D broadcasting system with limited bandwidth and with 2D TV supportive, we propose to consider transmitting stereoscopic video, audio with enhanced localization, and metadata for TV sets to generate reverberation for spaciousness.

본 연구에서는 동일한 내용의 영상을 2D로 감상할 때와 3D로 감상할 때 함께 재생되는 음향이 어떻게 달라져야하는지를 확인하는 주관적 실험을 수행하고 그 결과를 고찰하였다. 먼저 음향 정보는 음원이 자체적으로 제공하는 정보인 음원의 거리와 방위각(즉 위치) 그리고 음원의 환경 혹은 장면(scene)이 제공하는 정보인 공간감으로 분리가 가능하므로 이에 맞게 동일 내용의 2D/3D 영상이 음원의 위치 선정에 미치는 영향 평가 실험과 동일한 내용의 2D/3D 장면이 음향 공간감에 주는 영향 평가 실험을 수행하였다. 첫 번째 실험 결과 3D 영상을 감상하는 경우 2D 영상을 감상할 때 보다 스크린을 기준으로 음원의 거리와 방위각을 확대하여 인지한다는 결과를 얻을 수 있었다. 이는 2D 영상용 소리보다 거리와 방위각이 큰 3D 영상용 소리를 만들어야 한다는 것을 의미한다. 또한 3D 영상용 소리는 3D 영상뿐만 아니라 2D 영상과도 잘 어울린다는 결과를 얻었다. 두 번째 실험 결과, 3D 영상을 감상하는 경우 2D 영상을 감상할 때 보다 잔향이 더 많은 소리를 선호함을 알 수 있었다. 이는 3D 영상을 감상할때 공간감이 강화되기 때문으로 해석된다. 본 연구의 결과는 기본적으로 2D 영상용 음향을 제작하던 음향엔지니어가 3D영상용 음향을 제작하는 데 활용할 수 있으며, 2D to 3D 음향을 자동으로 변형하는 연구의 기초가 될 것이다. 더 나아가서 본 연구의 결과를 기반으로 제한된 대역폭에서 2D 와 3D를 동시에 지원하는 방송 시스템을 설계하는데 적용해 본다면, 방송 데이터 규격은 스테레오 영상, 음원의 위치가 강조된 3D 음향과 공간감을 주는 잔향 정보로 구성하는 것이 적절하다고 할 수 있다.

Keywords

References

  1. Ben Drawbaugh, "3D stole the show at CES 2010", engadgetHD , Available: http://hd.engadget.com/2010/01/21/3d-stole-the-show-at-ces-2010/ Jan 21, 2010.
  2. 정선영, “헐리우드, 3D영화관에 거액 몰린다, 아시아경제, Available: http://www.asiae.co.kr/news/view.htm?idxno=2009091202011730600, 2009년 3월 12일.
  3. Blu-ray Association, White Paper Blu-ray Disc Format 2.B Audio Visual Application Format Specifications for BD-ROM Version 2.4, Available: http://www.blu-raydisc.com/assets/Downloadablefile/BD-ROM-AV-WhitePaper_100423-17830.pdf, April, 2010.
  4. 신홍창, 정광희, 정원식, 허남호, 이수인, "3DTV 방송기술 개발 및 산업화 동향", TTA Journal, no. 127, pp. 53-60, 2010.
  5. 박흥식, 김규헌, 이건희, 윤국진, 서덕영, 박광훈, “스테레오스코픽 비디오 방송 서비스를 위한 MPEG-2 전송스트림 구성 방안,” 방송공학회논문지, 제14권, 6호, pp. 1-14, 2009. https://doi.org/10.5909/JBE.2009.14.6.769
  6. Cepric Andre, Jean-Jacques Embrechts, and Jacques G. Verly, "Adding 3D Sound to 3D Cinema: Identification and Evaluation of Different Reproduction Techniques," ICALIP, pp. 130-137, 2010.
  7. Setsu Komiyama, "Subjective Evaluation of Angular Displacement between Picture and Sound Directions for HDTV Sound Systems," J. Audio Eng. Soc., vol. 37, no. 4, pp. 210-214, April 1989.
  8. Werner P.J. de Bruijn and Marnus M. Boone, "Application of Wave Field Synthesis in life-size videoconferencing," 114th AES convention(paper 5801), March 22-15, 2003, Amsterdam, The Netherlands.
  9. Werner P.J. de Bruijn and Marnus M. Boone, "Subjective Experiments on the effects of combining spatialized audio and 2D Video projection in audio-visual systems," 112th AES convention(paper 5582), May 10-13, 2002, Munich, The Netherlands.
  10. Helmut Wittek, "Perceptual differences between wavefield synthesis and stereophony," Ph.D Thesis, University of Surrey, pp. 11-12, October 2007.
  11. Francis Rumsey, SPATIAL AUDIO, Focal Press, 2001.
  12. Setsu Komiyama, "Subjective Evaluation of Angular Displacement between Picture and Sound Directions for HDTV Sound Systems," J. Audio Eng. Soc., vol. 37, no. 4, pp. 210-214, April 1989.
  13. Jens Blauert,Spatial Hearing: the psychophysics of human sound localization, MIT Press, 1997.