Proceedings of the Korean Society of Broadcast Engineers Conference (한국방송∙미디어공학회:학술대회논문집)

The Korean Institute of Broadcast and Media Engineers (한국방송∙미디어공학회)
권호 표지

Deep Learning Framework for 5D Light Field Synthesis from Single Video

단안 비디오로부터의 5D 라이트필드 비디오 합성 프레임워크

  • Bae, Kyuho (Department of Information and Communication Engineering, Inha University) ;
  • Ivan, Andre (Department of Information and Communication Engineering, Inha University) ;
  • Park, In Kyu (Department of Information and Communication Engineering, Inha University)
  • 배규호 (인하대학교 정보통신공학과) ;
  • ;
  • 박인규 (인하대학교 정보통신공학과)
  • Published : 2019.06.19
Download PDF
⟨ Previous Next ⟩

Abstract

본 논문에서는 기존의 연구를 극복하여 단일 영상이 아닌 단안 비디오로부터 5D 라이트필드 영상을 합성하는 딥러닝 프레임워크를 제안한다. 현재 일반적으로 사용 가능한 Lytro Illum 카메라 등은 초당 3프레임의 비디오만을 취득할 수 있기 때문에 학습용 데이터로 사용하기에 어려움이 있다. 이러한 문제점을 해결하기 위해 본 논문에서는 가상 환경 데이터를 구성하며 이를 위해 UnrealCV를 활용하여 사실적 그래픽 렌더링에 의한 데이터를 취득하고 이를 학습에 사용한다. 제안하는 딥러닝 프레임워크는 두 개의 입력 단안 비디오에서 $5{\times}5$의 각 SAI(sub-aperture image)를 갖는 라이트필드 비디오를 합성한다. 제안하는 네트워크는 luminance 영상으로 변환된 입력 영상으로부터 appearance flow를 추측하는 플로우 추측 네트워크(flow estimation network), appearance flow로부터 얻어진 두 개의 라이트필드 비디오 프레임 간의 optical flow를 추측하는 광학 플로우 추측 네트워크(optical flow estimation network)로 구성되어있다.

Keywords