Camera Motion and Structure Recovery Using Two-step Sampling

2단계 샘플링을 이용한 카메라 움직임 및 장면 구조 복원

  • 서정국 (중앙대학교 첨단영상대학원 영상공학과) ;
  • 조청운 (중앙대학교 첨단영상대학원 영상공학과) ;
  • 홍현기 (중앙대학교 첨단영상대학원 영상공학과)
  • Published : 2003.09.01

Abstract

Camera pose and scene geometry estimation from video sequences is widely used in various areas such as image composition. Structure and motion recovery based on the auto calibration algorithm can insert synthetic 3D objects in real but un modeled scenes and create their views from the camera positions. However, most previous methods require bundle adjustment or non linear minimization process [or more precise results. This paper presents a new auto' calibration algorithm for video sequence based on two steps: the one is key frame selection, and the other removes the key frame with inaccurate camera matrix based on an absolute quadric estimation by LMedS. In the experimental results, we have demonstrated that the proposed method can achieve a precise camera pose estimation and scene geometry recovery without bundle adjustment. In addition, virtual objects have been inserted in the real images by using the camera trajectories.

비디오 영상으로부터 카메라의 움직임과 3차인 구조를 복원하는 기술은 다양한 분야에 응용되고 있다. 특히 비교정(un calibrated) 동영상을 해석하기 위해서는 대상 영상의 정보만을 이용하는 카메라의 자동 보정(auto-calibration)기술이 필수적이다. 그러나 비디오 상의 많은 프레임에 안정적으로 이를 적용하려면 기존의 자동 보정기술은 무기조정(bundle adjustment) 또는 비선형 최적화 등의 매우 복잡한 과정이 요구된다. 본 논문에서는 최적화 과정 없이도 정확하게 대상 카메라의 궤적과 3차원 구조를 복원하는 새로운 방법이 제안된다. 첫 번째 단계에서 대상 시퀀스에서 카메라 궤적의 해석에 적절한 키프레임(key-frame)을 선택하여 전체 연산 시간을 줄이며, 두 번째 과정에서 보다 정확한 카메라 자동 보정을 하기 위해 이미 추출된 키프레임 가운데 적대 2차 원추곡면(absolute quadric)의 추정을 통해 오차가 많이 포함된 키프레임을 제거한다. 가상 및 실사영상에 대한 실험결과로부터 제안된 방법의 성능을 확인하였으며, 다양한 실사 영상을 대상으로 가상의 3차원 모델을 합성한 결과도 제시하였다.

Keywords

References

  1. D. Roble, 'Vision in film and special effects,' SIGGRAPH Computer Graphics Newsletter, vol. 33, no. 4, pp. 58-60, Nov. 1999 https://doi.org/10.1145/345370.345412
  2. S. Gibson, J. Cook, T. Howard, R. Hubbold, and D. Oram, 'Accurate camera calibration for off-line, video-based augmented reality,' In proc. IEEE and ACM ISMAR, Darmstadt, Germany, Sep. 2002 https://doi.org/10.1109/ISMAR.2002.1115068
  3. O. Faugeras, Q.-T. Luong, and S. Maybank, 'Camera self-calibration: Theory and experiments,' In proc. ECCV'92, Lecture Notes in Computer Science, vol 588, pp.321-334, 1992
  4. A. Zisserman, P. Beardsley, and I. Reid, 'Metric calibration of a stereo rig,' In proc. IEEE Workshop Representation of Visual Scenes, pp.93-100, Cambridge, 1995 https://doi.org/10.1109/WVRS.1995.476857
  5. B. Triggs, 'Autocalibration and the absolute quadric,' In proc. IEEE CVPR, pp. 609-614, 1997 https://doi.org/10.1109/CVPR.1997.609388
  6. H. S. Sawhney, Y. Guo, J. Asmuth, and R. Kumar, 'Multi-view 3D estimation and applications to match move,' In proc. IEEE MVIEW, pp. 21-28, 1999 https://doi.org/10.1109/MVIEW.1999.781079
  7. D. Nister, 'Frame decimation for structure and motion,' In proc. SMILE 2000, Dublin, Ireland, July 2000
  8. K. Comelis, M. Pollefeys, M. Vergauwen, and L. V. Gool, 'Augmented reality from uncalibrated video sequences,' In proc. SMILE 2000, Leture Notes in Computer Science, vol. 2018, pp. 144-160, 2001
  9. R. Hartley and A. Zisserman, Mutiple View Geometry in Computer Vision, Cambrige Univ. Press, 2000
  10. A. Azarbayejani and A. Pentland, 'Recursive Estimation of Motion, Structure, and Focal Length,' In proc. IEEE Trans. on Pattern Matching and Machine Intelligence, vol. 17, no. 6, pp. 567-575, June 1995 https://doi.org/10.1109/34.387503
  11. A. Chiuso, P. Favaro, H. Jin, and S. Soatto, 'Motion and Structure causally Integrated over Time,' IEEE Trans. on Pattern Matching and Machine Intelligence, vol. 24, no. 4, pp. 523-535, April 2002 https://doi.org/10.1109/34.993559
  12. R. Hartley, 'In Defence of the 8-Point algorithm,; In proc. IEEE ICCV, pp. 1064-1070, 1995 https://doi.org/10.1109/ICCV.1995.466816
  13. J. Seo, J. Jung, C. Jho, and H. Hong, 'Detection of The inlier point set for a precise fundamental matrix estimation,' In proc. FCV, pp.135-140, Jeju, Feb. 2003