DOI QR코드

DOI QR Code

가상 변이맵 탐색과 수렴 조건 판단을 이용한 실시간 가상시점 생성 방법

Real-time Virtual View Synthesis using Virtual Viewpoint Disparity Estimation and Convergence Check

  • 신인용 (광주과학기술원 실감방송연구센터) ;
  • 호요성 (광주과학기술원 실감방송연구센터)
  • 투고 : 2011.07.01
  • 심사 : 2012.01.10
  • 발행 : 2012.01.31

초록

본 논문에서는 양안식 3차원 디스플레이 장치에 사용가능한 실시간 가상시점 영상을 생성방법을 제안한다. 제안하는 방법은 변이 탐색 (disparity estimation) 과정에서 중복되거나 불필요한 계산을 제거하기 위해, 변이맵 탐색 위치를 가상시점과 동일한 위치로 설정한다. 또한, 전역 방법을 사용한 변이맵 탐색 과정은 정확도는 높지만 복잡한 계산량이 문제이기 때문에 최적화 과정에서 변이값이 수렴하는 위치를 탐색하고 정보 갱신을 멈추는 방법을 사용하였다. 이렇게 얻어진 가상시점의 변이맵은 실제 참조가 가능한 영역인지 판단하는 수렴 조건 판단 (convergence check) 절차를 거쳐 영상을 합성한다. 영상 합성을 위한 모든 과정은 실시간 처리를 위하여 단일 명령 복수 쓰레드 (Single Instruction Multiple Threads) 구조인 그래픽 처리장치(GPU)를 활용한 프로그래밍을 통해 고속화를 이루었다. 실험 결과를 통해 제안하는 방법이 합성 영상의 화질을 유지하면서도 실시간으로 가상시점 영상을 합성한 것을 확인할 수 있었다.

In this paper, we propose a real-time view interpolation method using virtual viewpoint disparity estimation and convergence check. For the real-time process, we estimate a disparity map at the virtual viewpoint from stereo images using the belief propagation method. This method needs only one disparity map, compared to the conventional methods that need two disparity maps. In the view synthesis part, we warp pixels from the reference images to the virtual viewpoint image using the disparity map at the virtual viewpoint. For real-time acceleration, we utilize a high speed GPU parallel programming, called CUDA. As a result, we can interpolate virtual viewpoint images in real-time.

키워드

참고문헌

  1. ISO/IEC JTC1/SC29/WG11, "Survey of algorithms used for multi-view video coding," N6909, January 2005.
  2. Video and Requirements, "Applications & requirements on 3D video coding," ISO/IEC JTC1/SC29/WG11 Doc. N11061, Xian, China, Oct. 2009.
  3. ISO/IEC JTC1/SC29/WG11, "Contribution for 3D Video Test Material of Outdoor Scene," M1537, April 2008.
  4. J. D. Oh, S. Ma, and C. C. J. Kuo, "Disparity estimation and virtual view synthesis from stereo video," in Proceedings of the IEEE International Symposium on Circuits and Systems (ISCAS), pp. 993-996, New Orleans, La, USA, May 2007.
  5. M. Tappen and W. Freeman, "Comparison of Graph Cuts with Belief Propagation for Stereo," Proc. IEEE Int'l Conf. Computer Vision, vol. 1, pp. 508-515, 2003.
  6. P. F. Felzenszwalb and D. P. Huttenlocher, "efficient Belief Propagation for Early Vision," CVPR, vol. 1, pp.261-268, 2004.
  7. Q. Yang, L. Wang, R. Yang, H. Stewenius, and D. Nister, "Stereo matching with color-weighted correlation, hierarchical belief propagation and occlusion handling," CVPR, June 2006.
  8. K. Oh, S. Yea, and Y. Ho, "Hole Filling Method using Depth Based In-painting for View Synthesis in Free Viewpoint Television and 3-D Video," Picture Coding Symposium, pp. 39 (1-4), 2009.
  9. M. Oliveira, B. Bowen, R. McKenna, Yu-Sung Chang, "Fast Digital Image Inpainting", Proceedings of the International Conference on Visualization, Imaging and Image Processing (VIIP 2001), Marbella, Spain, September 3-5, 2001
  10. nVIDIA Corporation, "CUDA 3.2 Programming Guide," inhttp://www.nvidia.com/cuda_develop. html, 2010