Fixed Pattern Noise Reduction in Infrared Videos Based on Joint Correction of Gain and Offset

적외선 비디오에서 Gain과 Offset 결합 보정을 통한 고정패턴잡음 제거기법

  • 김성민 (한국과학기술원 전기 및 전자공학과) ;
  • 배윤성 (한국과학기술원 전기 및 전자공학과) ;
  • 장재호 (한국과학기술원 전기 및 전자공학과) ;
  • 나종범 (한국과학기술원 전기 및 전자공학과)
  • Received : 2011.07.06
  • Accepted : 2012.01.02
  • Published : 2012.03.25

Abstract

Most recent infrared (IR) sensors have a focal-plane array (FPA) structure. Spatial non-uniformity of a FPA structure, however, introduces unwanted fixed pattern noise (FPN) to images. This non-uniformity correction (NUC) of a FPA can be categorized into target-based and scene-based approaches. In a target-based approach, FPN can be separated by using a uniform target such as a black body. Since the detector response randomly drifts along the time axis, however, several scene-based algorithms on the basis of a video sequence have been proposed. Among those algorithms, the state-of-the-art one based on Kalman filter uses one-directional warping for motion compensation and only compensates for offset non-uniformity of IR camera detectors. The system model using one-directional warping cannot correct the boundary region where a new scene is being introduced in the next video frame. Furthermore, offset-only correction approaches may not completely remove the FPN in images if it is considerably affected by gain non-uniformity. Therefore, for FPN reduction in IR videos, we propose a joint correction algorithm of gain and offset based on bi-directional warping. Experiment results using simulated and real IR videos show that the proposed scheme can provide better performance compared with the state-of-the art in FPN reduction.

대부분의 최근 적외선 센서는 focal-plane array (FPA) 구조로 되어있다. 이러한 구조의 센서는 공간적 불균일 응답성을 갖는 것으로 알려져 있고, 이로 인해 고정패턴잡음을 발생시킴으로써 영상열화를 가져온다. 따라서 적외선 영상의 고정패턴잡음을 제거하기 위해서는 픽셀 불균일 보정을 해야 한다. 픽셀 불균일 보정기법은 참조물체기반 접근법과 영상기반 접근법으로 나눌 수 있다. 참조물체기반 접근법에서는 흑체와 같은 균일한 온도를 갖는 물체를 이용해서 고정패턴잡음을 분리시킬 수 있는 방법이다. 하지만 센서의 응답성은 시간이 지나면서 변할 수 있기 때문에, 최근에는 비디오 영상을 이용하는 영상기반 접근법이 많이 연구되고 있다. 영상기반 접근법들 중에서 칼만 필터를 기반으로 하는 최신 알고리듬은 영상 간에 움직임 보상 시에 한 방향 워핑을 이용하고 센서의 offset 불균일성만을 보상해준다. 하지만 한 방향 워핑을 이용한 시스템 모델은 영상의 경계 부근에서 고정패턴잡음을 효과적으로 제거하지 못한다. 게다가, offset만 보정하는 접근법은 gain의 불균일성의 영향을 많이 받는 영상에서는 성능이 악화될 수 있다. 그러므로 본 논문에서는 양방향 워핑을 이용하여 시스템 모델링을 하고, gain과 offset의 결합 보정을 수행하는 알고리듬을 제안한다. 모사 영상과 실제 영상에 대한 실험 결과들은 제안하는 알고리듬이 기존 알고리듬들보다 더 효과적으로 고정패턴잡음을 제거하는 것을 확인할 수 있다.

Keywords

References

  1. A. F. Milton, F. R. Barone, and M. R. Kruer, "Influence of nonuniformity on infrared focal plane array performance," Optical Engineering, vol. 24, no. 5, pp. 855-862, 1985.
  2. 조창호, 이상효, 이종용, 조도현, 이상철, "웨이브렛 변환 영역에서 적응문턱값을 이용한 적외선영상의 잡음제거," 전자공학회논문지, 제 43권, IE편, 제 4호, 65-75쪽, 2006년 12월.
  3. 이원석, 김경희, 이상원, "Retinex 처리에 기반한 적외선 열상 이미지의 화질 개선" 전자공학회논문지, 제 48권, IE편, 제 2호, 32-39쪽, 2011년 6월.
  4. B. M. Ratliff and M. M. Hayat, "An algebraic algorithm for nonuniformity correction in focal-plane arrays," J. Opt. Soc. Am. A., vol. 19, no. 9, pp. 1737-1747, 2002. https://doi.org/10.1364/JOSAA.19.001737
  5. B. M. Ratliff, M. M. Hayat, and J. S. Tyo, "Generalized algebraic scene based nonuniformity correction algorithm," J. Opt. Soc. Am. A., vol. 22, no. 2, pp. 239-249, 2005. https://doi.org/10.1364/JOSAA.22.000239
  6. A. Averbuch, G. Liron, and B. Z. Bobrovsky, "Scene based non-uniformity correction in thermal images using Kalman filter," Image Vision Computing, vol. 25 no. 6, pp. 833-851, 2007. https://doi.org/10.1016/j.imavis.2006.05.019
  7. M. Schultz, L. Caldwell, "Non uniformity correction and correctability of infrared focal plane arrays," Infrared Physics and Technology, vol. 36, no. 4, pp. 763-777, 1995. https://doi.org/10.1016/1350-4495(94)00002-3
  8. W. Gross, T. Hierl, M. Schultz, and J. Haigh, "Correctability of the spatial non-uniformity in various infrared focal plane arrays," Proceeding of SPIE, vol. 3436, pp. 203-213, 1998.
  9. S. Periaswamy and H. Farid, "Elastic registration in the presence of intensity variations," IEEE Transactions on Medical Imaging, vol. 22, no. 7, pp. 865-874, 2003. https://doi.org/10.1109/TMI.2003.815069
  10. A. H. Sayed, "Adaptive filters," Chap. 7, Wiley Inter-Science, 3rd Ed., 2008.
  11. B. Dierickx and G. Meynants, "Missing pixel correction algorithm for image sensors," Proceeding of SPIE, vol. 3410, pp. 200-203, 1998.
  12. G. H. Golub and C. F. Van Loan, "Matrix computations," Chap. 10, Johns Hopkins, 3rd Ed., 1996.
  13. S. S. Channappayya, A. C. Bovik, and R. W. Heath, "Rate bounds on SSIM index of quantized images," IEEE Transactions on Image Processing, vol. 17, no 9, pp. 1624-1639, 2008. https://doi.org/10.1109/TIP.2008.2001400