• 제목/요약/키워드: 결측

검색결과 428건 처리시간 0.033초

강우레이더를 활용한 강수량 결측 보정에 관한 연구 (Assessment of Missing Data Estimation with Rain Radar)

  • 김태형;이종현;이영곤;장승영;최규현
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2018년도 학술발표회
    • /
    • pp.310-310
    • /
    • 2018
  • 현재 지상에서의 강우관측은 여러기관에 의해 이루어 지고 있다. 국토교통부에서는 홍수 및 갈수예보, 가뭄대응, 하천 유량관리 등 다양한 국가 수자원 관리의 목적으로 강우관측을 포함한 수문조사를 시행중이고, 전국에 424개의 강수량 관측소를 설치하여 운영중이다. 강수량 데이터는 10분단위 자료를 실시간으로 수집하여 각 관할 홍수통제소로 전송되며, 전송된 자료는 최적의 품질을 확보하기 위해 다양한 방법으로 품질관리를 실시하고 있다. 강수량 자료는 다양한 원인에 의해 결측이 발생할 수 있는데, 강수총량은 알지만 결측에 의해 시간 배분 보정을 해야 하는 경우 주변 관측소의 관측자료나 강우레이더의 반사도 등을 활용할 수 있다. 본 연구에서는 국토교통부에서 운영중인 강우레이더를 통해 생산되는 다양한 반사도 자료를 활용하여 결측자료에 대한 시간보정을 수행하는 방법론을 제시하였다. 제안한 방법론의 검증을 위해 낙동강 하류 유역의 50개 강수량 관측소 자료를 이용하였다. 다양한 강우사상의 자료들을 이용하여 반사도를 활용한 강수보정과 실제 관측된 자료와의 일치성을 검토하였고, 제안된 방법론이 결측자료 품질관리를 위한 하나의 방안으로 활용될 수 있음을 확인하였다.

  • PDF

적응형 뉴로-퍼지 기법을 이용한 수문자료 결측치 추정에 관한 연구 (A Study on the Estimation of Missing Hydrological Data Using Adaptive Network-based Fuzzy Inference System(ANFIS))

  • 신희재;이태희
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2020년도 학술발표회
    • /
    • pp.264-264
    • /
    • 2020
  • 최근 기후변화로 우리나라는 과거에 비해 태풍이나 국지성 집중호우 및 가뭄 등 극심한 수문현상이 빈번하게 발생하고 그 피해가 더욱 커지고 있는 추세이다. 특히 우리나라의 경우 산지가 많으며 대부분의 하천이 유역면적이 작고 유로연장이 짧아 단시간에 유출이 발생하며 수문학적 특성이 연중 큰 편차를 보이고 있다. 이러한 이상기후에 따른 수문현상 파악 및 피해 경감을 위해 신뢰성 있는 수문자료는 매우 중요하다. 따라서 수문자료에 대한 품질관리는 필수적이지만 자료 결측 및 오측에 대한 신뢰성 높은 품질관리가 이뤄지지 못하고 있는 실정이다. 현재 수위자료의 결측이 발생한 경우 해당 관측소의 수위 자료를 사용해 선형보간 및 운형자법으로 수정하거나 상·하류 관측소의 관계를 이용하여 회귀분석을 통해 자료 결측의 수정 및 보완을 수행하는 등 담당자의 주관적 판단에 의존하고 있다. 본 논문에서는 신뢰성 높은 수문자료의 결측치 보완 및 예측을 위한 방안을 제시하고자 상류의 관측소의 수문자료를 이용한 하류의 단시간 수문 자료예측에 관한 연구를 수행하였다. 이를 위해 자료지향형 모델인 적응형 뉴로-퍼지 기법(Adaptive Network-based Fuzzy Inference System, ANFIS)을 이용한 모형을 적용하였다. 기존의 연구에서 가장 일반적으로 사용되는 물리적 모형은 수문자료를 활용하여 수위 및 유출을 산정함에 있어 매개변수의 결정이 어렵고 많은 오차들을 내포하고 있다. 본 연구에서 사용한 ANFIS는 입력자료와 출력자료만을 고려하여 구축할 수 있기 때문에 자료 수집단계에서 유역의 물리적 자료 및 지형 자료와 같은 방대한 양의 자료 수집이 필요가 없다. 이후 모형이 구축이 된다면 입·출력 자료만을 이용하여 신뢰성 높은 결과를 획득할 수 있지만 입력 자료의 품질에 따라 결과가 좌우되기 때문에 자료의 구성이 매우 중요하다. 본 연구에서는 ANFIS를 통해 무주남대천 유역의 무주군(여의교) 관측소의 수위자료를 입력자료를 사용하여 하류에 위치한 무주군(취수장) 관측소의 수문자료의 결측 보완 및 예측하는 모형을 구축하고 모형의 구조 변화를 통해 가장 정확도 높은 모형을 결정하였다.

  • PDF

결측값 대체를 위한 데이터 재현 기법 비교 (Comparison of Data Reconstruction Methods for Missing Value Imputation)

  • 김청호;강기훈
    • 문화기술의 융합
    • /
    • 제10권1호
    • /
    • pp.603-608
    • /
    • 2024
  • 무응답 및 결측값은 표본 탈락, 설문조사에 대한 답변 회피 등으로 발생하며 정보의 손실 및 편향된 추론의 가능성이 있는 문제가 발생하게 되며, 이 경우 결측값을 적절한 값으로 바꾸는 대체가 필요하게 된다. 본 논문에서는 결측값에 대한 대체 방법으로 제안되었던 평균 대체, 다중회귀 대체, 랜덤 포레스트 대체, K-최근접 이웃 대체, 그리고 딥러닝을 기본으로 한 오토인코더 대체와 잡음제거 오토인코더 대체 방법을 비교한다. 결측값을 대체하는 이러한 방법들에 대해 설명하고, 연속형의 모의실험 데이터와 실제 데이터에 접목시켜 각 방법들을 비교하였다. 비교 결과 대부분의 경우에서 다중 대체 방법인 랜덤 포레스트 대체 방법과 잡음제거 오토인코더 대체 방법의 성능이 좋았음을 확인하였다.

특성도를 이용한 결측치 대체방법 (Imputation method for missing data based on measure of property)

  • 김형주;김동재
    • 응용통계연구
    • /
    • 제30권3호
    • /
    • pp.463-473
    • /
    • 2017
  • 임상시험에서 어떻게 결측치를 다룰 것인가 하는 것은 큰 문제이다. 주로 주분석에서 사용하는 ITT원칙은 결측치가 어떠한 메커니즘을 따른다는 가정 하에 결측치를 대체 하지만 가정에 대한 타당성이 불확실한 문제가 있다. 즉, 올바른 결측치 대체방법은 매우 중요하다. 본 연구에서는 Kang과 Kim (1997)이 제안한 일치도와 유지도의 개념을 이용하여 새로운 결측치 대체방법을 제안하였다. 또한 실제자료를 이용하여 예제를 제시하고 Monte Carlo 모의실험을 통하여 기존방법과 대체 성능을 비교하였다.

미세먼지 자료에서의 결측치 대체 방법 비교 (Comparision of Missing Imputaion Methods In fine dust data)

  • 김연진;박헌진
    • 한국빅데이터학회지
    • /
    • 제4권2호
    • /
    • pp.105-114
    • /
    • 2019
  • 자료 분석에 있어서 결측치 대체는 큰 이슈중 하나이다. 결측치의 발생을 무시하고 분석을 진행하게 되면, bias가 발생하여 그에 따른 추정치에 대해 잘못된 결과를 줄 수 있다. 이 논문에서는 미세먼지자료에서 발생한 결측치를 적절한 대체 방법을 찾아 적용하자 한다. 이를 통해 시계열 자료에서 발생한 결측치를 R을 기반으로 한MICE, MissForest 등의 기존 방법과 시계열 기반 모델을 사용하여 여러 가지 상황에 대한 시뮬레이션을 설정해 비교해 밝히고자 하였다. 이 결과에 대해 각각을 변수 별로 비교하였을때 ImputeTS 패키지를 이용한 auto arima 모델의 kalman filter를 적용한 모형과 MissForest 모형이 미세먼지자료 결측치 대체에서는 좋은 결과를 주는 것으로 판단되었다.

  • PDF

데이터 오·결측 저감 정제 알고리즘 (Data Cleansing Algorithm for reducing Outlier)

  • 이종원;김호성;황철현;강인식;정회경
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2018년도 추계학술대회
    • /
    • pp.342-344
    • /
    • 2018
  • 본 논문에서는 기존 오 결측 데이터 분석 기법인 평균 대체법, 상관계수 수치분석, 그래프 상관성 분석 및 통계 전문가 분석 등 통계적 방법으로 대체 가능성을 조사하여 정수처리 공정에서 계측되는 각종 이상 데이터를 정제하기 위한 방법을 다양한 분석연구로 진행하였다. 또한 물 정보 데이터 오 결측 저감 정제 알고리즘의 신뢰성 및 검증에 있어 분위수 패턴과 딥러닝 기반의 LSTM 알고리즘으로 동작하는 시스템을 모델링하고, Keras, Theano, Tensorflow 등의 오픈 소스 라이브러리로 구현할 수 있는 체계를 연구하였다.

  • PDF

공간시계열모형의 결측치 추정방법 비교 (The Comparison of Imputation Methods in Space Time Series Data with Missing Values)

  • 이성덕;김덕기
    • Communications for Statistical Applications and Methods
    • /
    • 제17권2호
    • /
    • pp.263-273
    • /
    • 2010
  • 시계열의 결측값은 미지의 모수 또는 확률변수로 취급할 수 있으며 이에 따른 최대가능도방법과 확률변수방법에 의해 결측치를 추정할수 있으며 또한 주어진 자료 하에서 미지의 값에 대한 조건부기대치로 예측할수 있다. 이 연구의 주된 목적은 불완전한 자료에 대해 기존에는 ARMA모형만을 고려하였는데 이를 확장하여 공간시계열모형인 STAR모형에 적용하여 두 가지 추정방법을 이용해 결측값의 추정 정밀도를 비교하는데 있다. 사례분석을 위해 한국질병관리본부에서 전산보고 하고 있는 전염병 자료 중에서 2001~2009년 동안의 월별 Mumps 자료를 이용하여 두 가지 추정방법의 추정 정밀도와 예측정확도를 비교하였다.

시계열 지자기 측정 자료의 복원, 예측 및 잡음 분석 연구 (Restoration, Prediction and Noise Analysis of Geomagnetic Time-series Data)

  • 지윤수;오석훈;서백수;이덕기
    • 한국지구과학회지
    • /
    • 제32권6호
    • /
    • pp.613-628
    • /
    • 2011
  • 한반도에서 측정되고 있는 시계열 지자기 자료에 대해 결측 자료에 대한 복원과 측정 자료에 기반한 예측, 그리고 기관별 관측 자료에 대한 잡음도를 분석하였다. 결측 자료의 복원을 위해 주성분 분석을 통한 최적화 기법과 지구 통계학적 접근에 의한 방법을 적용하고 그 효과를 비교하였다. 주성분 기법은 자료의 주기성을 효율적으로 반영하는 특성을 보였으며, 지구통계학적 방법은 안정적인 복원 능력을 보였다. 관측소 별 잡음도를 파악하기 위해 이천 및 청양에서 동일 기간에 관측한 지자기 자료에 대해 공간적 분산성을 스캐터그램을 이용해 파악하였다. 그 결과 청양 관측소의 자료가 이천 관측소의 자료보다 연속적이며 안정적인 측정이 이루어진 것을 알 수 있었으며, 복원을 위한 크리깅 추정에서도 실제 자료의 추정이 매우 정확하게 이루어졌다. 결측자료의 복원의 경우 20분 이내의 결측 자료에 대해서는 크리깅 기법과 주성분 기법 모두 유사한 결과를 보였으나, 그 이상의 결측에 대한 복원과 지자기 자료의 예측이 필요한 경우에는 주성분 기법을 적용해야 주파수 영역에서의 특성이 실제와 더욱 유사하게 나타났다. 또한 지자기 자료의 예측을 위해서는 주성분 분석이 효율적으로 이용될 수 있음을 파악하였으며, 하루 정도의 지자기장을 예측할 수 있는 것으로 보인다.

무선통신기반 교통정보수집체계하에서의 차량주행궤적정보 결측치 보정방안 (A Comprehensive Method to Impute Vehicle Trajectory Data Collected in Wireless Traffic Surveillance Environments)

  • 연지윤;김현미;오철;김원규
    • 대한교통학회지
    • /
    • 제27권4호
    • /
    • pp.175-181
    • /
    • 2009
  • 지능형교통체계(ITS : Intelligent Transportation Systems)는 도로이용자들로 하여금 다양한 교통환경에서 도로를 좀 더 효율적으로 이용하게 해 주었다. 기존의 지점검지체계 기반의 교통정보 수집 및 제공시스템에서 오는 한계점을 극복하기 위해 최근 들어서는 차량-차량간 및 차량-인프라간 통신기술을 바탕으로 하는 교통자료 수집 및 제공에 관한 연구가 다양하게 진행되고 있다. 그러나 차량간 및 차량과 인프라간 통신은 무선으로 이루어지기 때문에 주변 환경의 영향(건물, 날씨, 대형차량 등)으로 인해 통신 실패가 빈번히 발생하여 교통정보수집의 신뢰성을 저하시키고 있다. 본 연구에서는 무선통신기반 교통정보수집시 통신 실패로 인한 차량의 주행궤적정보가 결측되었을 경우 이를 보정할 수 있는 방법론을 개발하였다. 먼저 차량의 주행궤적자료 결측 보정을 위한 기존의방법들 및 무선통신기반 교통자료수집을 위한 요구조건들을 검토하였다. 다음으로 AIMSUN을 이용하여 차량의 주행궤적자료를 수집하였고, 이를 바탕으로 임의의 결측치를 생성하였다. 결측된 자료는 기존의 교통자료 결측치 보정 방법과 본 연구에서 수정된 방법을 적용하여 보정한 후 비교 분석해 보았다. 분석결과 무선통신기반 교통수집체계하에서 통신 단절로 인한 결측치는 기존의 방법보다는 차량의 주행궤적 특성을 고려해서 수정된 방법으로 보정했을 경우 좀 더 정확한 교통정보를 수집할 수 있었다.

격자자료 결측복원을 위한 DCT-PLS 기법의 활용성 평가 (Evaluation of the DCT-PLS Method for Spatial Gap Filling of Gridded Data)

  • 윤유정;김서연;정예민;조수빈;이양원
    • 대한원격탐사학회지
    • /
    • 제36권6_1호
    • /
    • pp.1407-1419
    • /
    • 2020
  • 지구환경 변화를 파악하는 데 있어서는 장기 시계열의 격자자료가 필수적이며, 기후 재분석장과 위성자료는 대기 및 지표면 변수에 대하여 전 지구 규모에서 주기적이고 정량적인 정보로 활용되고 있다. 본 연구에서는 위성자료의 결측 문제를 해결하기 위한 방안으로 DCT-PLS (penalized least square regression based on discrete cosine transform) 기반의 결측복원 기법을 서로 다른 특성을 가진 복수의 격자자료에 적용하고, 정량적인 검증을 통하여 그 활용성을 평가하였다. 원본 자료와의 객관적인 비교를 위하여 결측이 없는 LDAPS (Local Data Assimilation and Prediction System) 모델로부터 상대습도, 풍속 일자료를 추출하고, MODIS (Moderate Resolution Imaging Spectroradiometer)의 월간 합성 LST (land surface temperature), NDVI (normalized difference vegetation index) 영상을 사용하여, 임의로 생성된 결측 블록이 원본에 매우 가깝게 복원됨을 확인하였고, 4가지 변수 모두에서 상관계수 0.95 이상의 일치도를 나타내었다. DCT-PLS 기반 결측복원 기법은 별도의 보조자료를 필요로 하지 않고, 필요시 시간 및 공간 정보를 모두 활용할 수 있으며, 처리속도가 비교적 빠르기 때문에 현업시스템에 사용될 수 있을 것으로 사료된다.