DOI QR코드

DOI QR Code

Effective Exemplar-Based Image Inpainting Using Patch Extrapolation

패치 외삽을 이용한 효과적인 예제기반 영상 인페인팅

  • 김진주 (한밭대학교 정보통신전문대학원) ;
  • 이시웅 (한밭대학교 정보통신전문대학원)
  • Received : 2013.11.13
  • Accepted : 2014.01.13
  • Published : 2014.02.28

Abstract

Image inpainting is the widely used technique to restore a damaged region or to fill a hole in an image. The exemplar-based technique effectively generates new texture by copying colour values of the most correlated patch in the source into the empty region of the current patch. In traditional exemplar-based synthesis, the patch correlation is computed using only the already filled pixels of the current patch. Thus, by ignoring the correlation between the hole regions of the two patches, an undesirable patch which is highly correlated with the current patch in the already filled area but considerably dissimilar in the area to be filled can be selected, which results in bad texture propagation. To avoid such problems, a new exemplar-based inpainting method using patch extrapolation is proposed. The empty part of the current patch is extrapolated beforehand, and then the complete patch is used for finding its exemplar. Experimental results show that the proposed method provides more natural synthesis results than the conventional ones.

영상 인페인팅(image inpainting)은 영상에서 훼손된 부분을 복원하거나 영상 내의 불필요한 문자나 특정 물체를 제거한 후 삭제된 영역을 자연스럽게 채우기 위해 널리 사용되는 기법이다. 예제기반 인페인팅은 비어있는 영역에서 어떤 부분부터 채울 것인지를 결정하는 패치 우선순위 결정과 결정된 패치를 어떤 패치로 채울 것인지 결정하는 패치탐색의 두 부분으로 구성되어 있다. 기존 예제기반 인페인팅에서는 패치 내의 알고 있는 영역의 화소 값만을 이용하여 유사패치를 탐색한다. 이는 패치의 일부분만 이용하여 비교하게 되므로 비교 대상이 아닌 영역에 상관성이 없는 화소 값을 갖는 패치가 선택될 수 있다. 이를 개선하기 위해 본 논문에서는 패치외삽을 이용한 예제기반 인페인팅 방식을 제안한다. 제안 방식은 우선순위가 결정된 패치에 대해 패치 내 이미 알고 있는 영역의 화소 값을 이용하여 패치 내 비어있는 영역의 화소 값을 외삽 방식으로 예측치를 구하여 채운 후 유사 패치를 탐색한다. 실험 결과를 통해 제안방식이 기존 예제기반 인페인팅 방식에 비해 자연스러운 결과 영상을 얻을 수 있음을 보여준다.

Keywords

References

  1. Lin Liang, Ce Liu, Ying-Qing Xu, and Baining Guo, "Real-Time Texture Synthesis by Patch-Based Sampling," ACM Transaction on Graphics, Vol.20, No.3, pp.127-150, 2001. https://doi.org/10.1145/501786.501787
  2. Jiri Grim, Petr Somol, Pavel Pudil, IrenaMikova, and Miroslav Malec, "Texture Oriented Image Inpainting based on Local Statistical Model," Signal and Image Processing, 2008.
  3. M. Bertalmio, L. Vese, G. Sapiro, and S. Osher. "Simultaneous Structure and Texture Image Inpainting," IEEE Trans. Image Processing, Vol.12, No.8, pp.882-889, 2003. https://doi.org/10.1109/TIP.2003.815261
  4. M. Bertalmio, G. Sapiro, V. Caselles, and C. Ballester, "Image Inpainting," Proceedings of SIGGRAPH, pp.417-424, 2000.
  5. A. Telea, "An Image Inpainting Technique Based on the Fast Marching Method," Journal of Graphics Tool, Vol.9, No.1, pp.25-36, 2003.
  6. M. Bertalmio, A. L. Bertozzi, and G. Sapiro, "Navier-stokes, Fluid Dynamics and Image and Video Inpainting," Intl., Proc. Conf. Comp. Vision Pattern Rec., pp.355-362, 2001.
  7. A. Criminisi, P. Perez, and K. Toyama, "Region Filling and Object Removal by Exemplar-Based Image Inpainting," IEEE Trans. Image Processing, Vol.13, No.9, pp.1200-1212, 2004. https://doi.org/10.1109/TIP.2004.833105
  8. Ji-Ying Wu and Qiu-Qi Ruan, "A Novel Exemplar-based Image Completion Model," Journal of Information Science and Engineering, Vol.25, pp.481-497, 2009.
  9. Q. Chen, Y. Zhang, and Y. Liu, "Image inpainting with improved exemplar-based approach," Multimedia Content Analysis and Mining 2007, Lecture Notes in Computer Science, Vol.4577, pp.242-251, 2007.
  10. Alexander Wong and Jeff Orchard, "A Nonlocal-Means Approach to Exemplar-based Inpainting," IEEE Intl. Conf. on Image Processing, pp.2600-2603, 2008.
  11. M. Kim, S. W. Lee, and S. D. Kim, "Spatial error concealment method based on POCS with a correlation-based initial block," IET Image Processing, Vol.1, No.2, pp.134-140, 2007. https://doi.org/10.1049/iet-ipr:20045270
  12. J. H. Choi and C. H. Hahm, "An Exemplar-based Image Inpainting Method with Search Region Prior," IEEE 2nd Global Conference on Consumer Electronics, pp.68-71, 2013.
  13. D. K. Lee and R. H. Park, "Robust exemplar-based inpainting algorithm using region segmentation," IEEE Transactions on Consumer Electronics, Vol.58, pp.553-561, 2012. https://doi.org/10.1109/TCE.2012.6227460