Abstract
Acquisition of reliable depth maps is a critical requirement in many applications such as 3D videos and free-viewpoint TV. Depth information can be obtained from the object directly using physical sensors, such as infrared ray (IR) sensors. Recently, Time-of-Flight (ToF) range camera including KINECT depth camera became popular alternatives for dense depth sensing. Although ToF cameras can capture depth information for object in real time, but are noisy and subject to low resolutions. Recently, filter-based depth up-sampling algorithms such as joint bilateral upsampling (JBU) and noise-aware filter for depth up-sampling (NAFDU) have been proposed to get high quality depth information. However, these methods often lead to texture copying in the upsampled depth map. To overcome this limitation, we formulate a convex optimization problem using higher order regularization for depth map upsampling. We decrease the texture copying problem of the upsampled depth map by using edge weighting term that chosen by the edge information. Experimental results have shown that our scheme produced more reliable depth maps compared with previous methods.
요즘 들어, 3차원 콘텐츠의 수요는 지속적으로 증가하고 있다. 3차원 콘텐츠의 품질은 해당 장면의 깊이 정보에 큰 영향을 받기 때문에 정확한 깊이 정보를 얻는 것이 매우 중요하다. 카메라와 객체 사이의 깊이 정보는 적외선 센서를 이용한 계산을 통해 직접 얻을 수 있다. 최근 들어, KINECT 카메라와 같이 카메라와 물체 사이의 거리를 적외선이나 광신호를 이용하여 직접 측정하는 Time-of-flight (ToF) 기술을 사용하는 깊이 측정 방법이 널리 사용되고 있다. 이러한 방법은 카메라와 객체 사이의 깊이 정보를 실시간으로 획득할 수 있다는 장점을 갖지만, 획득된 깊이맵에 잡음이 발생하고, 깊이맵의 해상도가 낮다는 단점을 갖는다. 최근 들어, 이런 문제를 해결하기 위해서 양방향 결합 업샘플링 방법 (JBU) 이나 잡음 제거 업샘플링 방법 (NAFDU) 과 같은 필터 기반의 방법이 제안되었다. 그러나 이러한 필터 기반의 업샘플링 방법은 업샘플링된 깊이맵에 색상영상의 질감이 복사되는 문제가 발생한다. 이 논문에서는 이러한 문제점을 해결하기 위해 고차 정규화항을 이용하여 에너지 함수를 만들고, 이를 최적화하여 깊이맵을 업샘플링 한다. 또한, 색상과 깊이맵의 경계 정보를 고려한 경계 가중치항을 추가하여 질감 복사 문제를 해결한다. 실험 결과, 제안하는 깊이맵 업샘플링 방법이 기존의 방법에 비해 깊이 정보의 품질은 유지하면서, 질감 복사 문제를 효과적으로 해결할 수 있음을 확인했다.
