• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2012년도 하계학술대회
• /
• pp.26-28
• /
• 2012

본 논문에서는 깊이 영상의 해상도를 향상시키는 기법을 제안한다. 최근 TOF(time-of-flight) 방식의 깊이 센서가 깊이 영상 획득에 많이 사용되고 있다. 그러나 TOF 깊이 센서가 제공하는 깊이 영상은 대부분 저해상도이기 때문에 고해상도의 콘텐츠 제작을 위해서는 깊이 영상의 해상도를 향상시켜주는 것이 필수적이다. 본 논문에서는 깊이 영상의 해상도를 높이기 위하여 적응적 가중치 보간법을 적용한 후, Bilateral 필터링을 수행하여 품질을 높인다. 일반적으로 영상의 해상도를 높일 때 보간법을 많이 사용하는데, 본 논문에서는 이러한 보간법들을 사용하여 깊이 영상의 해상도를 높였을 때보다 제안하는 기법의 성능이 우수함을 실험을 통해 확인하였다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2012년도 한국컴퓨터종합학술대회논문집 Vol.39 No.1(C)
• /
• pp.451-453
• /
• 2012

2D영상을 3D영상으로 변환하기 위해서는 영상 내의 깊이 정보를 알 수 있는 깊이지도(depth map)가 필요하다. 깊이지도를 획득하기 위해 다양한 시각적 특성들이 이용되는데, 본 논문에서는 영상에서 아래는 가깝고 위는 멀다는 가정을 기반으로 하는 상대적 높이(relative height) 특성을 이용하여 깊이지도를 생성하는 방법을 제안한다. 기존의 상대적 높이 특성을 이용한 방법들은 왼쪽이나 오른쪽으로 거리가 멀어지는 영상에 대해서 부정확한 깊이지도를 생성한다. 따라서 제안하는 방법에서는 문제점을 개선하기 위해 입력 영상을 소실점 위치에 따라 분류하여 깊이지도를 생성한다. 소실점이 왼쪽이나 오른쪽에 위치할 때는 영상을 회전시켜 소실점을 상단으로 보내 상대적 높이 가정에 맞도록 영상을 변환하고 소실점이 중앙에 위치할 때는 하늘 검출 방법을 통해 실내, 실외를 판별한 후 각 특성에 맞는 초기 깊이 모델을 적용한다. 실험 결과, 제안하는 방법이 상대적 높이 가정을 만족하지 않는 영상도 적합한 깊이지도를 생성할 수 있음을 확인하였다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2022년도 하계학술대회
• /
• pp.1318-1321
• /
• 2022

본 논문에서는 단일 깊이 센서를 사용하는 자율주행 시나리오에서 거리 계산에 주로 이용되는 깊이 데이터만 이용하는 객체 감지 기술을 제안한다. 우선, 해당 시나리오에서 객체 감지 학습 데이터는 깊이 데이터가 사용되지만 상대적으로 객체 감지 성능을 비교하기 위해 동일한 시간의 색상, 깊이 데이터를 함께 획득하여 학습에 이용한다. 학습모델은 객체 감지 분야에서 최근 주목 받고 있는 YOLOv5로 선정하여 색상, 깊이 데이터의 객체 감지 학습의 결과를 각각 확인하였다. 결과적으로 색상과 깊이 데이터 사이에서 객체 감지 학습 결과의 차이를 확인하며 본 논문에서 제안하는 자율주행 시나리오에 깊이 영상만 이용하는 객체 감지 기술의 문제점과 향후 자율주행 기술 발전에 기여 가능성을 확인할 수 있다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2011년도 하계학술대회
• /
• pp.39-41
• /
• 2011

본 논문에서는 깊이 영상의 해상도와 품질을 향상시키는 방법을 제안한다. 일반적으로 2D-plus-Depth 구조의 3D 콘텐츠에서는 깊이 영상의 품질이 매우 중요하다. 최근 들어 Time-of-Flight (TOF) 방식의 깊이 센서가 깊이 영상 획득에 많이 사용되고 있는데 TOF 깊이 센서가 제공하는 깊이 영상은 저해상도이기 때문에 고해상도 3D 콘텐츠를 제작하기 위해서는 깊이 영상의 해상도를 상향 변환하는 것이 필수적이다. 또한 고품질의 깊이 영상을 얻기 위해서는 물체 간의 경계를 정교하게 보존하는 것이 중요하다. 최근에는 깊이 영상의 해상도 상향 변환을 위해서 Joint Bilateral Upsampling(JBU) 방식이 많이 사용되고 있다. 본 논문은 깊이 영상의 해상도를 높임에 있어서 우선 보간법을 수행하여 영상의 상향 변환 시에 생긴 빈 홀들의 값을 채워준 후 Bilateral Filtering을 수행함으로써 성능을 높인다. 일반적으로 영상을 상향 변환을 할 때 다양한 방법들이 있는데 본 논문에서는 Nearest Neighborhood(NN), Gaussian과 경계 보존 보간법, 경계 보존 보간법과 Fast Curvature Based Interpolation(FCBI)를 결합한 보간법을 사용하였다. 실험 결과 제안 방법이 기존 방법보다 우수한 성능을 가짐을 보여준다. 또한 경계 보존 보간법과 FCBI를 결합한 보간법을 이용해서 상향 변환을 수행한 결과가 다른 보간법들에 의한 결과보다 우수하다는 점을 알 수 있다.

• 방송공학회논문지
• /
• 제21권1호
• /
• pp.76-86
• /
• 2016

연구에서는 입체시 측정방법과 양안시차에 따라 지각되는 입체시 깊이 차이를 살펴보기 위해서 실시되었다. 직접비교 조건에서는 깊이를 평가할 가상자극과 깊이 평가에 사용된 실제 LED들이 모두 정면의 동일 공간에 제시되어 있었고, 간접비교 조건에서는 가상자극은 정면에 제시되었지만 깊이 평가에 사용된 LED들은 45도 오른쪽에 놓여있었다. 따라서 직접비교 조건에서는 동일 공간에 제시된 두 자극의 깊이를 비교하면서 대응시킬 수 있었지만, 간접비교 조건에서는 가상 자극의 깊이를 평가한 후 오른쪽 방향에 있는 LED를 이용하여 깊이를 추정할 수 있었다. 이 들 두 측정 방법에서 지각되는 입체시 깊이가 달라지는 지를 확인하고 부가적으로 관찰자들의 입체시력에 따라 지각되는 깊이가 달라지는 지를 살펴보았다. 실험 결과 직접비교 조건에서 지각된 깊이는 간접비교 조건에서 지각된 깊이보다 더 기하학적으로 예측된 깊이와 유사하였다. 또한 입체시력이 좋은 사람들은 그렇지 않은 사람들보다 기하학적으로 예측된 깊이와 유사한 깊이를 지각하였다. 이러한 결과는 동일한 양안 시차를 가진 자극들이라도 이들 가상자극들만 제시되는 것보다 현실자극과 가상자극이 동일 공간에 제시될 때 지각된 깊이가 더 크게 지각됨을 보여주는 것이다. 따라서 양안시차를 가진 자극만 제시되는 가상현실에서 지각되는 입체 자극의 깊이보다 현실영상과 가상영상이 함께 제시되는 증강현실에서 보다 큰 깊이가 지각될 수 있음을 시사한다.

• 한국HCI학회:학술대회논문집
• /
• 한국HCI학회 2009년도 학술대회
• /
• pp.620-624
• /
• 2009

본 논문은 고화질(high definition, HD) 복합형 카메라 시스템과 고품질(high-quality) 3차원 스캐너를 결합하여 다시점 비디오와 그에 상응하는 다시점 깊이맵을 생성하는 시스템을 제안한다. 복합형 카메라 시스템과 3차원 스캐너를 이용해 3차원 비디오를 생성하기 위해서는, 우선 움직임이 없는 배경영역에 대한 깊이정보를 고품질 3차원 스캐너를 이용해 미리 획득하고, 동적으로 움직이는 전경영역에 대해서는 다시점 카메라와 깊이 카메라를 결합한 복합형 카메라 시스템을 이용해 다시점 비디오와 깊이맵을 획득한다. 그리고 3차원 스캐너와 깊이카메라를 통해 획득한 깊이정보를 이용해 3차원 워핑(warping)을 적용하여 각 다시점 카메라를 위한 초기 깊이정보를 예측한다. 초기 깊이정보를 이용해 다시점 깊이를 예측하는 것은 다시점 카메라의 각 시점에서의 초기 깊이맵을 계산하기 위한 것이다. 고화질의 다시점 깊이맵을 생성하기 위해서 belief propagation 방법을 이용하여 초기 깊이맵을 정제한다. 마지막으로, 전경영역의 경계선 영역의 불규칙적인 깊이맵을 정제하기 위해 전경영역의 외곽선 정보를 추출하여 생성된 깊이맵의 경계선 영역을 다시한번 정제한다. 제안한 3차원 스캐너와 복합형 카메라를 결합한 시스템은 기존의 깊이맵 예측 방법보다 정확한 다시점 깊이맵을 포함하는 3차원 비디오를 생성할 수 있었으며, 보다 자연스러운 3차원 영상을 생성할 수 있었다.

• 한국통신학회논문지
• /
• 제37권4A호
• /
• pp.239-249
• /
• 2012

최근 자연스러운 3차원 영상의 재현을 위하여 깊이영상을 이용한 영상합성 방법이 널리 이용되고 있다. 깊이영상은 시청자의 눈에 보이지는 않지만 합성영상의 화질을 결정하는 중요한 정보이므로 정확한 깊이영상을 획득하는 것이 중요하다. 특히 적외선 센서를 이용한 깊이 카메라(time-of-flight camera)는 보다 정확한 깊이영상을 획득하는데 이용되고 있다. 깊이 카메라는 스테레오 정합(stereo matching)에 비해 정확하고 실시간으로 깊이정보를 추출할 수 있지만, 제공되는 해상도가 너무 낮다는 단점이 있다. 본 논문에서는 단시점의 깊이영상을 두 시점의 깊이영상으로 확장하고, 이를 이용하여 여러 시점의 중간영상을 생성하는 시스템을 제안한다. 특히 복잡도를 낮춰 빠른 속도로 다시점 영상을 생성하는 시스템을 제안한다. 고해상도의 컬러 영상을 획득하기 위하여 두 대의 컬러 카메라를 설치하고 중간에 깊이 카메라를 획득한다. 그리고 깊이 카메라에서 획득한 깊이영상을 3차원 워핑을 이용하여 양쪽의 컬러 카메라의 위치로 시점 이동한다. 깊이영상과 컬러영상간의 객체 불일치 문제는 깊이값의 신뢰 도를 기반으로 한 조인트 양방향 필터(joint bilateral filter)를 이용하여 보정한다. 이러한 과정을 통해 얻은 깊이영상은 다시점 영상 합성 방법을 이용하여 다시점 영상을 획득한다. 이와 같은 과정은 다중 스레드를 이용하여 빠르게 처리할 수 있도록 구현했다. 실험을 통해 두 시점의 컬러영상과 두 시점의 깊이영상이 실시간으로 획득했고, 약 7 fps의 프레임율로 10시점의 중간시점을 동시에 생성했다.

• 스마트미디어저널
• /
• 제1권3호
• /
• pp.29-35
• /
• 2012

깊이영상기반 렌더링(depth image-based rendering, DIBR)이란 색상 영상과 각 화소에 대응하는 거리 정보로 이루어진 깊이 영상(depth map)을 이용하여 가상 시점에서의 영상을 합성하는 기술을 말한다. DIBR을 이용하면 3차원 TV에 적합한 컨텐츠를 생성할 수 있지만, 가상 시점에서의 영상을 합성하는 과정에서 원영상에 존재하지 않는 영역, 즉, 비폐색(disocclusion) 영역이 드러나는 등 여러 가지 문제가 발생한다. 본 논문에서는 구조광으로 깊이 정보를 획득하는 Kinect 깊이 카메라를 이용한 가상시점 영상생성 기술을 제안한다. 깊이 카메라로부터 색상 영상과 그에 대응하는 깊이 영상을 획득한 다음, 깊이 영상에 대한 전처리 기술을 수행한다. 전처리가 끝난 깊이 영상은 중간 시점으로 워핑되고, 워핑 과정에서 발생하는 절삭 오차를 제거하기 위해 Median 필터링을 적용한다. 그런 다음, 색상 영상은 워핑된 깊이 영상의 깊이 값을 사용해서 중간 시점으로 워핑된다. 비폐색(disocclusion) 영역을 채우기 위해 배경 기반의 인페인팅 기술을 적용한다. 실험 결과를 통해, 본 논문에서 제안한 방법이 자연스러운 스테레오 영상을 생성한 것을 확인할 수 있었다.

• 한국산업정보학회논문지
• /
• 제21권6호
• /
• pp.23-29
• /
• 2016

본 논문은 구형 객체가 촬영된 깊이 영상에서 깊이 정보를 통하여 제일 근접한 구를 찾아내어 깊이 영상을 부호화하는 방법을 제안한다. 블록단위로 분할된 깊이 영상에 대해 최소자승법을 통해 촬영된 구형 객체와 제일 근접한 구의 형태를 찾는다. 그 후 찾아낸 구의 형태로 깊이 값을 예측하고, 측정된 깊이 값과의 오차를 통해 깊이 영상을 부호화한다. 또한, 블록 내의 부호화된 각 깊이 화소들과 찾아낸 구의 인자 정보를 같이 부호화한다. 제안된 방법으로 구형 객체에 대해 기존 DPCM 방법보다 최대 81% 이상의 부호화 효율 향상이 이루어졌다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송공학회 2009년도 추계학술대회
• /
• pp.87-90
• /
• 2009

영상의 깊이 정보를 추출하는 것은 매우 어려운 연구이다. 다양한 유형의 영상 구조의 분석이 필요하지만 많은 경우에 주관적인 판단의 도움이 필요하다. 본 논문에서는 로스 텍스처 필터를 기반으로 정지 영상의 깊이를 자동으로 생성하는 방법을 제안한다. 로스 텍스처 필터는 단안 비전에서 3D 깊이를 얻기 위한 방법으로 활용되었는데, 실제 2D 영상에서 깊이를 예측하기 위해 텍스처 편차, 텍스처 기울기, 색상 등을 활용한다. 로스 필터는 $1{\times}5$ 벡터로부터 콘볼루션을 이용하여, 20여개의 $5{\times}5$ 콘볼루션 필터가 구해지는데, 영상에 필터를 적용하여 로스 에너지를 계산한다. 구해진 에너지를 깊이 맵으로 변환하고, 깊이 맵에서 특징 점을 구하고, 특징 점들로부터 델러노이 삼각화를 이용하여 삼각형 깊이 메쉬를 얻는다. 구해진 깊이 맵의 성능을 측정하기 위해 카메라 시점을 변경하면서 영상의 3D 구조를 분석하였으며, 입체영상을 생성하여 3D 입체 시청 결과를 분석하였다. 실험에서는 로스 텍스처 필터를 이용하는 깊이 생성 방법이 좋은 효과를 얻는 것을 확인하였다.