DOI QR코드

DOI QR Code

Hydrodynamic scene separation from video imagery of ocean wave using autoencoder

오토인코더를 이용한 파랑 비디오 영상에서의 수리동역학적 장면 분리 연구

  • Received : 2019.07.23
  • Accepted : 2019.08.31
  • Published : 2019.09.01

Abstract

In this paper, we propose a hydrodynamic scene separation method for wave propagation from video imagery using autoencoder. In the coastal area, image analysis methods such as particle tracking and optical flow with video imagery are usually applied to measure ocean waves owing to some difficulties of direct wave observation using sensors. However, external factors such as ambient light and weather conditions considerably hamper accurate wave analysis in coastal video imagery. The proposed method extracts hydrodynamic scenes by separating only the wave motions through minimizing the effect of ambient light during wave propagation. We have visually confirmed that the separation of hydrodynamic scenes is reasonably well extracted from the ambient light and backgrounds in the two videos datasets acquired from real beach and wave flume experiments. In addition, the latent representation of the original video imagery obtained through the latent representation learning by the variational autoencoder was dominantly determined by ambient light and backgrounds, while the hydrodynamic scenes of wave propagation independently expressed well regardless of the external factors.

본 논문에서는 대용량 비디오 영상에서 오토인코더를 이용하여 파랑 전파시 수리동역학적 장면만을 분리하는 방법에 대해 소개한다. 연안에서 센서를 이용한 파랑의 직접적 관측의 어려움으로 인해 비디오 영상을 이용한 입자 추적, 옵티컬 플로우 등의 이미지 분석 방법이 주로 활용되고 있다. 하지만 이미지 분석 방법은 주변광 및 기상상태 등 외부 요인에 의한 영향으로 파랑에 대한 정확한 분석에 어려움이 있다. 제안하는 방법은 비디오 영상으로부터 주변광의 영항을 최소화하고, 순수 파랑 전파시 파랑의 움직임 만을 분리하여 수리동역학적 장면을 추출한다. 실제 해역 및 수리 모형 실험에서 촬영된 비디오 영상에 제안하는 방법을 적용하여 원본 영상으로부터 주변광에 의한 영향과 배경을 잘 분리하여 파랑 전파에 따른 수리동역학적 파랑 이동 장면이 잘 추출되었음을 시각적으로 확인하였다. 또한 변분 오토인코더의 잠재표현 학습을 통해 얻은 원본 비디오 영상에 대한 잠재 표현은 주변광과 배경 요인에 의해 지배적으로 결정되는 반면, 파랑 이동 장면은 해당 요인에 관계없이 독립적으로 잘 표현되는 것을 알 수 있었다.

Keywords

References

  1. S. Caires, J. Kim, and J. Groeneweg, "Korean east coast wave predictions by means of ensemble kalman filter data assimilation," Ocean Dynamics, vol. 68, no. 11, pp. 1571-1592, 2018. https://doi.org/10.1007/s10236-018-1214-0
  2. R. Holman and M. C. Haller, "Remote sensing of the nearshore," Annual Review of Marine Science, vol. 5, pp. 95-113, 2013. https://doi.org/10.1146/annurev-marine-121211-172408
  3. C. Chickadel, R. A. Holman, and M. H. Freilich, "An optical technique for the measurement of longshore currents," Journal of Geophysical Research: Oceans, vol. 108, no. C11, 2003.
  4. K. Holland, J. Puleo, and T. Kooney, "Quantification of swash flows using video-based particle image velocimetry," Coastal Engineering, vol. 44, no. 2, pp. 65-77, 2001. https://doi.org/10.1016/S0378-3839(01)00022-9
  5. B. K. Horn and B. G. Schunck, "Determining optical flow," Artificial intelligence, vol. 17, no. 1-3, pp. 185-203, 1981. https://doi.org/10.1016/0004-3702(81)90024-2
  6. A. Thangarajah, Q. M. J.Wu,W. Jiang, A. Safaei, and J. Huo, "New trend in video foreground detection using deep learning," 2018 IEEE 61st International Midwest Symposium on Circuits and Systems (MWSCAS), pp. 889-892, 2018.
  7. C. Vondrick, H. Pirsiavash, and A. Torralba, "Generating videos with scene dynamics," in Advances In Neural Information Processing Systems, 2016, pp. 613-621.
  8. I. Goodfellow, J. Pouget-Abadie,M. Mirza, B. Xu, D.Warde-Farley, S. Ozair, A. Courville, and Y. Bengio, "Generative adversarial nets," in Advances in neural information processing systems, 2014, pp. 2672-2680.
  9. X. Glorot and Y. Bengio, "Understanding the difficulty of training deep feedforward neural networks," in Proceedings of the thirteenth international conference on artificial intelligence and statistics, 2010, pp. 249-256.
  10. D. P. Kingma and J. Ba, "Adam: A method for stochastic optimization," International Conference on Learning Representations, 12 2014.
  11. D. P. Kingma and M. Welling, "Auto-encoding variational bayes," International Conference on Learning Representations, 12 2013.

Cited by

  1. Wave-Tracking in the Surf Zone Using Coastal Video Imagery with Deep Neural Networks vol.11, pp.3, 2020, https://doi.org/10.3390/atmos11030304