DOI QR코드

DOI QR Code

A Study on the Design of IoT-based Thermal Sensor and Video Sensor Integrated Surveillance Equipment

IoT 기반 열상 센서와 영상 센서 일체형 감시 장비 설계에 관한 연구

  • 이윤민 (경민대학교 정보통신과) ;
  • 신진섭 (경민대학교 정보통신과)
  • Received : 2019.10.21
  • Accepted : 2019.12.06
  • Published : 2019.12.31

Abstract

In this paper, IoT based thermal sensor data and image sensor integrated environmental monitoring system for ship, and it is the monitoring system which can process and transmit the Full HD IP camera image and thermal data transmitted from the thermal module for processing and transmitting, and the viewer S/W is to be developed which provides in real time the information for actual surrounding temperature together with the image, and enables fire prediction which was impossible in the case of the existing equipment by estimating the temperature change as the thermal image is added to the image camera, and saves and analyzes all data while receiving the temperature data and image signal transmitted from the integrated thermal sensor environmental monitoring equipment for ship and displaying them as 2D on the monitoring system.

본 논문에서는 IoT 기반 열상 센서와 영상 센서 일체형 IP CCTV 설계에 관하여 연구하였으며 Full HD IP 카메라 영상과 열상모듈에서 전송되어지는 열상 데이터를 동시에 인지하여 가공 및 전송 할 수 있는 모니터링 시스템에 사용할 수 있도록 하였다. 열상 센서에서 감지하는 신호를 디지털로 변환하여 영상에 중첩시켜 실제 주변 온도에 대한 정보를 영상과 함께 실시간 제공하고, 영상 카메라에 열상이 추가됨으로 온도 변화를 예측하여 기존 장비에서 불가능한 화재 예측이 가능하게 하였다. 따라서 열상 센서와 영상센서 일체형 감시 장비를 통하여 환경 모니터링 시스템에서 전송되는 온도 데이터와 영상 신호를 송신하여 모니터링 시스템에 적용 가능하도록 하였다.

Keywords

Ⅰ. 서론

IoT, 즉 사물인터넷은 1999년 RFID 전문가 케빈 애쉬톤(Kevin Ashtonin)이 최초로 제안한 개념이다. 사물을 인터넷에 연결시켜 그 기능과 활용성을 확장하는 것으로서 시대의 트랜드에 부합하고 창의성과 혁신성을 가진 기술이다. 최근 IoT(Internet of Things) 기술이 발전함에 따라 다양한 환경에 많이 적용되어, 데이터를 수집하고 처리하여 시스템을 설계하고 있다.[1] 이를 이용하면 선박환경에도 적용될 수 있다. 고가품, 신선농산물, 위험화물과 같은 다양한 화물들이 선박을 이용한 해운물류를 통해 운송되고 특히, 크고 작은 사고가 발생하고 있다. 이로 인해 최근의 물류는 신속성에만 집중하던 시대가 지나가고 물류보안의 중요성에 대한 의식이 지속적으로 강조됨에 따라 “화물의 원활하고 안전한 흐름”이라는 패러다임으로 변화되고 있다. 글로벌 물류 기업들도 자사의 생산 공장 간의 반제품 물류, 고객 배송을 위한 완제품 물류, 기타 고가품 및 운송 과정에서 문제가 발생할 가능성이 높은 화물 등에 대해서는 실시간 위치 확인 및 운송 과정 상에서의 화물상태 등을 모니터링하기 위한 기술을 요구 하고 있다. 최근 몇 년간 많은 물류기업들이 자체적인 기술개발을 통해 일부 적용하고 있는 실정이다.[2][3]

일반적으로 화재감시 센서로는 온도, 불꽃, 가스 등을 감지하는 아날로그 센서를 적절히 배치하여 주변온도와 불꽃을 감시하는 방식을 적용하고 있으며, 주변 감시 모니터링 시스템은 영상감시 카메라를 감시 대상물 전방에 설치하여 원격으로 모니터링 한다. 이러한 방식은 화재감시 모니터링 시스템과 CCTV 감시 시스템이 각각 분리, 설치되어 운용됨으로 인하여 직관적 관제의 어려움을 극복할 수 있는 주변 환경감시 모니터링 시스템에 적용한다. 또한 화재감시 센서는 상황이 발생한 이후에 경보가 발생함으로 사전 예방이 불가능하고, 센서 데이터의 오류 및 감지 지연이 발생할 경우 실제 데이터의 오탐 여부를 구분하기에 어려움이 있어 일반산업용 설비의 화재 발생 가능 구역에 온도감지 열상 센서와 영상센서를 결합한 IoT 센서 데이터 및 영상 일체형 주변 환경 및 화재감시 시스템을 적용함으로서 영상과 온도 데이터를 하나의 영상으로 조합하여 네트워크로 전송함으로서 거리와 시간에 제약 없이 실시간 화재감시 및 주변 환경을 하나의 시스템으로 모니터링 할 수 있다.[4][5][6][7][8]

본 논문에서는 센서 데이터에서 감지하는 열상 및 영상 신호를 디지털로 변환하여 온도정보를 영상위에 오버레이 시켜 실제 열상센서 데이터를 영상과 함께 실시간, 즉시 모니터링 할 수 있는 IoT 기반 IP 카메라를 이용한 화재징후 예측 등, 재해 발생을 사전에 감시하는 IoT 기반 열상센서 데이터와 영상 센서 일체형 IP CCTV 카메라를 설계하였다. 화재감지 센서의 오탐 여부를 즉각적으로 고화질의 영상으로 확인할 수 있으며 센서에서 발생하는 알람의 위치와 종류를 영상으로 확인함으로 비상 상황 발생 시 주변 환경의 상황을 직관적으로 확인할 수 있다는 점이다. 열상센서+영상센서 일체형 IP 카메라와 센서 모듈에서 전송되는 데이터를 수신하여 실시간 정보를 저장, 분석을 할 수 있다.

Ⅱ. 열상 및 영상센서 일체형 IP CCTV 카메라 설계

IoT기반의 환경 모니터링 시스템은 온도와 같이 눈으로 보이지 않는 상황을 열원감지 센서 데이터를 디지털화하여 영상과 같이 보여 주어 보이지 않는 상황을 시각화 한다. 그림 1은 IoT기반 열상센서 데이터와 영상센서 일체형 선박용 환경 모니터링 시스템 구성도를 나타낸 것이다. 카메라 내부에 교환식 IoT 센서 Board, Full HD급 카메라 모듈을 장착하고 있는 디바이스이며 각 센서에서 입력되는 데이터와 카메라 모듈에서 입력되는 영상을 조합하여 IoT 센서 데이터 수신 및 저장 모듈과 IoT 센서 데이터 및 영상 데이터 2D화면 표출 모듈로 전송하는 기능을 갖고 있다. 모든 전송은 네트워크를 통해서 이뤄지며 이때, 전송방식 즉 유선, 무선 등의 제한은 없다.

OTNBBE_2019_v19n6_9_f0001.png 이미지

그림 1. IoT 기반 열상 센서와 영상센서를 결합한 CCTV 적용 시스템 구성도

Fig. 1. CCTV application system diagram combining IoT based thermal sensor and image sensor

IoT 열상센서 및 영상 일체형 카메라로부터 전송되는 데이터를 수신하여 날자, 시간, 이벤트별 DB를 구축이 가능하다. DB 구축 및 저장 시 입력되는 열상센서 데이터와 영상 데이터를 동기화하여 어떤 데이터를 검색 할 수 있도록 DB 구축이 가능하다.

그림 2는 IoT 기반 온도감지 열상센서와 IP CCTV카메라를 일체화하여 특정 감시 구역 이나 화재 시발점으로부터의 환경변화 및 급격한 온도 변화 등을 실시간 관측함으로서 일정 지역의 환경 변화와 화재 발생을 미리 감지 예방하는 IoT 융ㆍ복합 지능형 환경 감시 모니터링 카메라이다.

OTNBBE_2019_v19n6_9_f0002.png 이미지

그림 2. 온도감지 열상센서와 IP CCTV카메라 시스템

Fig. 2. Thermal Sensor and IP CCTV Camera System

영상데이터와 온도 감시 열상 센서 데이터가 실시간 동기화되어 전송되므로 위치파악을 위한 시간 단축이 가능하며 또한 실제 현장상황을 실시간 직관적으로 분석하는 것이 가능하므로 현장상황 변동에 따른 유연한 대응 방안 수립이 가능하다. 또한 시스템 유지보수 측면에서도 기존 재난, 재해 시스템의 경우 최초 설치 후 시간이 지남에 따라 설비의 증축 및 공간의 변화에 따라서 기설치했던 센서를 사용할 수 없게 되는 문제가 발생 할 수 있다.

따라서 센서별 프로토콜의 분리 및 IP 카메라와 센서 위치의 변화 등과 같이 많은 교체와 변화가 일어나는 시설 관리적 측면에서 일관적인 유지 관리가 매우 어려운 상황이 빈번히 일어난다. 그러나 실제 센서가 설치된 위치를 정확히 영상과 Map으로 표시함으로서 많은 시간이 경과된 후 설비증축이나 공간변경이 있더라도 쉽게 위치 변경과 유지관리를 할 수 있는 장점이 있다.

그림 3, 4는 Full HD IP CCTV 카메라의 CMOS 영역 회로 설계 와 CPU 영역 회로 설계를 나타낸 그림이다. 그림 5는 설계된 회로에서 PCB을 나타낸 그림이다.

OTNBBE_2019_v19n6_9_f0003.png 이미지

그림 3. IP CCTV 카메라 CMOS 영역의 회로 설계

Fig. 3. Circuit Design of IP CCTV Camera CPU Area

OTNBBE_2019_v19n6_9_f0004.png 이미지

그림 4. IP CCTV 카메라 CPU 영역의 회로 설계

Fig. 4. Circuit Design of IP CCTV Camera CPU Area

OTNBBE_2019_v19n6_9_f0005.png 이미지

그림 5. IP CCTV 카메라의 PCB 설계

Fig. 5. PCB Design of IP CCTV Camera

그림 6은 SMPS 전원 노이즈 및 CPU 클락 증가에 따른 노이즈가 3.3V 영역에서 발생하여 콘덴서 용량, 저항값 변경, 파워IC 부품 위치변경, Artwork 작업시 패턴 사이즈 변경으로 위와 같이 노이즈 레벨을 줄일 수 있음을 알 수 있었다.

OTNBBE_2019_v19n6_9_f0006.png 이미지

그림 6. 오실로스코프 측정시 3.3V에서 전원 노이즈 제거 확인

Fig. 6. Verify Supply Noise Rejection at 3.3V for Oscilloscope Measurements

노이즈 감소 후 IP 카메라 모듈 F/W , S/W와 VMS 연동작업, 비디오, 오디오 압축 및 네트워크를 통한 전송, 세팅을 위한 웹 서버 내장, Sensor, IR Control 작업, 기타 웹페이지 및 안정화 Debugging를 수행하였다.

그림 7은 설계한 회로와 PCB로 제작된 IP CCTV 카메라 모듈이다. 제작된 카메라로 그림 8은 VMS 연동 시험을 나타내고 있다. 열상센서와 영상센서 일체형 IP카메라의 경우 기존 CCTV에서 단순히 영상을 전송하여 현장상황을 관리자가 시각으로 파악하여 대처하는 방식을 개선하려는 것이 주목적이다. 즉, 영상으로 보이는 상황뿐만 열상 센스와 같이 눈으로 보이지 않는 상황을 센서 데이터를 디지털화하여 영상과 같이 보여주므로 보이지 않는 상황의 시각화를 할 수 있다. 그림 9는 제작된 열상 센서와 영상 통합 감지센서와 결합된 카메라이다. Full HD급 CMOS 카메라와 Thermal Imagne 센서를 나타내었다.

OTNBBE_2019_v19n6_9_f0007.png 이미지

그림 7. 제작된 IP CCTV 카메라

Fig. 7. Manufactured IP CCTV Camera

OTNBBE_2019_v19n6_9_f0008.png 이미지

그림 8. 제작된 카메라 VMS 연동 시험

Fig. 8. Manufactured camera VMS linkage test

OTNBBE_2019_v19n6_9_f0009.png 이미지

그림 9. 제작된 열상 및 영상 통합 감지센서 카메라

Fig. 9. Manufactured Thermal and Image Integrated Sensor Camera

Ⅳ. 결론

본 논문에서는 열상센서와 영상센서를 활용한 IP CCTV 카메라를 설계하고 제작에 관하여 연구하였다. 카메라에서 감지하는 열상 및 영상 신호를 디지털로 변환하여 온도정보를 영상위에 오버레이 시켜 실제 열상센서 데이터를 영상과 함께 실시간, 즉시 모니터링 할 수 있는 IoT 기반 IP 카메라를 이용한 화재징후 예측 등, 재해 발생을 사전에 감시하는 IoT 기반 열상센서 데이터와 영상 센서 일체형 IP CCTV 카메라를 설계하였다.

화재감지 센서의 오탐지 여부를 즉각적으로 고화질의 영상으로 확인할 수 있으며 센서에서 발생하는 알람의 위치와 종류를 영상으로 확인함으로 비상 상황 발생 시 주변 환경의 상황을 직관적으로 확인할 수 있다는 점이다. 열상센서와 영상센서 일체형 IP 카메라와 센서 모듈에서 전송되는 데이터를 수신하여 실시간 정보를 저장, 분석을 할 수 있다. 적용 분야로는 선박용 화재 징후 예측 모니터링시스템, 선박용 주변 환경 영상 감시시스템, Oil & Gas 플랜트, 발전 플랜트 등 주요 목 화재징후 예측 및 영상감시시스템, 일반산업용 화재 징후 예측 감시 및 환경 영상 관제 시스템 등으로 적용할 수 있다고 판단된다.

References

  1. Han-cheol Rye, "Construction of Ubiquitous Computing Based Environment Management System", Wounkwang univ. dissertation(master), 2010
  2. "Landsat 7 Science Data Users Handbook", National Aeronautics and Space Administration, 2011
  3. Tarendra Lakhankar, Nir Krakauer, Reza Khanbilvardi, "Applications of microwave remote sensing of soil moisture for agricultural applications", International Journal of Terraspace Science and Engineering 2(1), pp81-91, 2009,
  4. Jin-Seob Shin, Jeong-Ihll Lee, Design and Construction of Farm Management System by U-IT, (JIIBC). vol.12, No.6, 2012
  5. Jong-chan Kim etc., "u-IT Based Plant Green Growth Environment Management System", Korean Journal of the Korea Institute of Information and Communication Engineering, 2011
  6. Bergery, M., Armitage, A.: Room Occupancy Measurement Using Low-Resolution Infrared Cameras. Proceeding of IET Irish Signals and Systems Conference (ISSC 2010), UCC, Cork,Cork, Ireland (2010) 249-.254
  7. Chang, S., Yang, F., Wu, W.: Nighttime Pedestrian Detection Using Thermal Imaging Based on HOG Feature. Proceedings of 2011 Int. Conf. on System Science and Engineering, Macau (2011) 108-.121
  8. Zhang et al, "A flexible new technique for camera calibration", Journal of MAMI, vol 22, pp 1330-1334, 2000.