DOI QR코드

DOI QR Code

가상시점 영상 생성을 위한 경계 잡음 제거와 홀 채움 기법

Boundary Noise Removal and Hole Filling Algorithm for Virtual Viewpoint Image Generation

  • 고민수 (광운대학교 전자공학과 디지털미디어 연구실) ;
  • 유지상 (광운대학교 전자공학과 디지털미디어 연구실)
  • 투고 : 2012.03.07
  • 심사 : 2012.07.31
  • 발행 : 2012.08.31

초록

본 논문에서는 3D 워핑(warping) 기법을 이용하여 가상시점 영상생성 시 화질 개선을 위하여 경계 잡음(boundary noise)을 제거하고 홀(hole) 채움을 하는 새로운 기법을 제안한다. 경계 잡음은 가상시점 영상 합성 시기준 시점 영상과 깊이 영상 내 객체의 경계 불일치로 발생되며 홀은 기준시점 영상에서 보상할 수 없는 가려짐 영역(occlusion)으로 정의된다. 제안하는 기법에서는 경계 잡음 제거를 위해 먼저 배경 화소들의 평균과 절대 값 비교를 통해 경계 잡음에 해당되는 화소를 검출하고 검출된 화소를 홀 영역으로 확장한다. 경계 잡음 영역이 포함된 확장된 홀 영역은 나선형 가중 평균(spiral weighted average) 기법과 기울기 탐색(gradient searching) 기법을 혼용하여 채우게 된다. 나선형 가중 평균 기법은 깊이 정보를 사용함으로 객체 정보를 최소로 사용하지만 결과 영상이 번지는 단점이 있다. 기울기 탐색 기법은 영상의 기울기를 이용하여 세밀한 부분을 보존할 수 있는 장점이 있다. 따라서 각각의 결과를 ${\alpha}$ 가중치로 조합하여 생성된 가상 시점은 두 기법의 장점을 동시에 적용하기 때문에 좋은 화질을 얻을 수 있다. 실험을 통해 제안하는 기법의 성능이 기존의 다른 기법보다 우수하다는 것을 확인하였다.

In this paper, performance improved hole-filling algorithm including boundary noise removing pre-process which can be used for an arbitrary view synthesis with given two views is proposed. Boundary noise usually occurs because of the boundary mismatch between the reference image and depth map and common-hole is defined as the occluded region. These boundary noise and common-hole created while synthesizing a virtual view result in some defects and they are usually very difficult to be completely recovered by using only given two images as references. The spiral weighted average algorithm gives a clear boundary of each object by using depth information and the gradient searching algorithm is able to preserve details. In this paper, we combine these two algorithms by using a weighting factor ${\alpha}$ to reflect the strong point of each algorithm effectively in the virtual view synthesis process. The experimental results show that the proposed algorithm performs much better than conventional algorithms.

키워드

참고문헌

  1. G.M. Um, G.H. Cheong, W.S Cheong, N.H. Hur, "Technical Development and Standardization Trends of Multi-view 3D and Free-viewpoint Video", The Magazine of the IEEK, vol.38, no.2, pp.18-23, Feb. 2011.
  2. G.M. Um, G. Bang, N.H. Hur, J.W. Kim, "Standardization Trends of 3D Video Coding in MPEG", ETRI, Electronics and Telecommunications Trends, vol.24, no.3, pp.61-68, Jun. 2009.
  3. ISO/IEC JTC1/SC29/WG11, "Introduction to 3D Video", M9784, May 2008.
  4. Y. Mori, N. Fukushima, T. Yendoa, T. Fujii and M. Tanimotoa, "View generation with 3D warping using depth information for FTV", ELSEVIER, Signal Processing : Image Communication, vol.24, issue.1-2, pp.65-72, Jan. 2009. https://doi.org/10.1016/j.image.2008.10.013
  5. A. Telea, "An image in-painting technique based on the fast marching method", J. Graphics Tools, vol.9, no.1, pp.25-36, 2004.
  6. A. Criminisi, P. Perez, K. Toyama, "Region Filling and Object Removal by Exemplar-Based Image In-painting", IEEE Trans. Image Processing, vol.13, no.9, pp.1200-1212, Sept. 2004. https://doi.org/10.1109/TIP.2004.833105
  7. Se-hwan Park, Hyuk Song, Eun-young Jang, Namho Hur, Jinwoong Kim, Jin-soo Kim, Sang-hun Lee, Ji-sang Yoo, "Compensation Method for Occluded-region of Arbitrary-view Image Synthesized from Multi-view Video", The Journal of Korea Information and Communications Society, vol.33, no.12, pp.1029-1038, Dec. 2008.
  8. Tae-june Kim, Eun-young Chang, Nam-ho Hur, Jin-woong Kim, Ji-sang Yoo, "Virtual Viewpoint Image Synthesis Algorithm using Multi-view Geometry", The Journal of Korea Information and Communications Society, vol.34, no.12, pp.1154-1166, Dec, 2009.
  9. ISO/IEC JTC1/SC29/WG11, "Improved common-hole filling for extrapolation view synthesis", M21318, Jul. 2011.
  10. Min Soo Ko, Dong Wook Kim, Douglas L. Jones, Jisang Yoo, "A New Common-hole Filling Algorithm for Arbitrary View Synthesis", 4th International conference of 3D systems and applications, pp.242-245, Jun. 2012.
  11. Min Soo Ko, Gun Bang, Won-Sik Cheong, Namho Hur, Jisang Yoo, "A New Post Processing Algorithm for Generated Arbitrary View", 3rd International conference of 3D systems and applications, pp.183-187, Jun. 2011.
  12. ISO/IEC JTC1/SC29/WG11, "Boundary noise removal and hole filling for VSRS 3.5 alpha", M19992, Mar. 2011.
  13. ISO/IEC JTC1/SC29/WG11, "Implementation of Hole Filling Methods for VSRS 3.5.alpha", M20005, Mar. 2011.

피인용 문헌

  1. Depth-map Preprocessing Algorithm Using Two Step Boundary Detection for Boundary Noise Removal vol.14, pp.12, 2014, https://doi.org/10.5392/JKCA.2014.14.12.555