• 제목/요약/키워드: 재현자료

검색결과 1,425건 처리시간 0.028초

다중대체와 재현자료 작성 (Multiple imputation and synthetic data)

  • 김정연;박민정
    • 응용통계연구
    • /
    • 제32권1호
    • /
    • pp.83-97
    • /
    • 2019
  • 사회가 발전함에 따라 이용자의 다양한 분석 요구에 대응하기 위해 개인 단위로 구성된 마이크로데이터 제공이 증가했다. 나아가 센서스, 행정자료와 같은 전수자료를 마이크로데이터 형태로 제공받아 연구하고자 하는 요구 역시 커지고 있다. 정책결정, 학술목적 등을 위한 마이크로데이터 분석은 가치 창출 측면에서 대단히 바람직하다. 하지만 자료 유용성이 확보된 마이크로데이터 제공은 개인정보가 노출될 가능성이라는 위험을 가질 수 밖에 없다. 이에, 자료의 유용성을 확보하면서 개인정보보호를 보장할 수 있는 여러 방법들이 고려되어 왔다. 이러한 방법 중 하나로 재현자료(synthetic data)를 생성해서 활용하는 방법이 연구되어 왔다. 본 논문은 재현자료 생성과 관련된 방법론 및 주의사항을 소개하여, 재현자료의 이해를 도모하고자 한다. 이를 위해 재현자료 작성에 필수적인 다중대체, 베이지안 예측 모형 및 베이지안 붓스트랩 등의 개념들을 먼저 설명하고, 완전 재현자료 및 부분 재현자료에 대해 살펴본다. 특히, 재현자료 작성을 심도 깊이 이해하기 위해 순차회귀 다중대체(sequential regression multivariate imputation)를 이용해 경시적(longitudinal) 자료를 재현자료로 작성하는 구체적 사례를 살펴본다.

주성분 분석을 활용한 재현자료 생성 (Synthetic data generation by probabilistic PCA)

  • 박민정
    • 응용통계연구
    • /
    • 제36권4호
    • /
    • pp.279-294
    • /
    • 2023
  • 재현자료를 생성할 때 순차회귀 다중대체(SRMI)를 이용하는 방식이 가장 널리 알려져 있으며, 이를 구현한 소프트웨어로 R-패키지 synthpop이 활용되고 있다. 본 논문에서는 확률적 주성분 분석(PPCA)을 이용하여 재현자료를 생성하는 방안을 제안하고 2개의 데이터 세트를 이용한 모의실험으로 SRMI 방식과 PPCA 방식을 비교하였다. 모의실험에서 PPCA 방식으로 생성한 재현자료는 쌍별 상관계수를 기준으로 원자료와의 유사성이 가장 우수함을 확인하였다. 향후 PPCA 방식을 이용하여 시계열 자료에 대한 재현자료 생성을 연구하고자 한다.

유용성과 노출 위험성 지표를 이용한 재현자료 기법 비교 연구 (A comparison of synthetic data approaches using utility and disclosure risk measures)

  • 안성빈;트랑 도안;이주희;김지우;김용재;김윤지;윤창원;정성규;김동하;권성훈;김항준;안정연;박철우
    • 응용통계연구
    • /
    • 제36권2호
    • /
    • pp.141-166
    • /
    • 2023
  • 재현자료를 생성하여 배포하는 것은 데이터 공개에 따른 정보 유출의 위험을 방지하는 대표적인 방법이다. 최근 산업에서 데이터의 활용이 중요해진 만큼 한국을 포함한 많은 국가 및 기관에서 재현자료에 관한 연구가 활발히 진행되고 있다. 본 논문에서는 대표적인 재현자료 생성 기법들과 평가 지표들을 소개한다. 전통적인 재현자료 생성 방법인 다중대체와 최근 제시된 인공신경망 기반의 재현자료 생성 방법 등을 활용하여 재현자료를 생성하는 과정을 기술함에 따라 재현자료 생성 방법에 대한 전반적인 이해를 돕는다. 이에 더해 다양한 재현자료 평가 지표를 바탕으로 생성된 재현자료들을 분석 및 비교함에 따라 앞으로의 연구에 대한 방향을 제시하고 그에 대한 토대를 마련하고자 한다.

재현그림을 통한 우리나라 주식 자료에 대한 탐색적 자료분석 (Exploratory Data Analysis for Korean Stock Data with Recurrence Plots)

  • 장대흥
    • 응용통계연구
    • /
    • 제26권5호
    • /
    • pp.807-819
    • /
    • 2013
  • 확증적 시계열 자료분석 전의 그래픽 탐색적 자료분석방법으로서 재현그림을 사용할 수 있다. 재현그림을 통하여 시계열 자료의 구조적 패턴을 확인할 수 있고 이 패턴을 통하여 탐색적으로 시계열 데이터의 구조 변화점을 한 눈에 확인할 수 있게 된다. 우리나라 주식 자료를 이용하여 재현그림이 시계열 자료를 위한 그래픽 탐색적 자료분석방법으로서 유용함을 보였다.

재현그림을 통한 우리나라 환율 자료에 대한 탐색적 자료분석 (Exploratory data analysis for Korean daily exchange rate data with recurrence plots)

  • 장대흥
    • Journal of the Korean Data and Information Science Society
    • /
    • 제24권6호
    • /
    • pp.1103-1112
    • /
    • 2013
  • 탐색적 자료분석에서는 자료를 통계적 모형에 바로 적합시키기 보다는 자료를 있는 그대로 보려는 데 주안점을 둔다. 우리는 시계열 자료에 대한 그래픽 탐색적 자료분석방법의 하나로서 재현그림을 사용할 수 있다. 재현그림의 장점은 통계모형에 대한 가정 없이 시계열 자료의 구조적 패턴을 확인할 수 있고 이 패턴을 통하여 탐색적으로 시계열 데이터의 구조 변화점을 한 눈에 확인할 수 있다는 데 있다.

불연속 분포를 이용한 다지점 강수모의발생 기법 개발 (A Development of Multi-site Rainfall Simulation Model Using Piecewise Generalize Pareto Distribution)

  • 소병진;권현한
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2012년도 학술발표회
    • /
    • pp.123-123
    • /
    • 2012
  • 일강수량은 수공구조물 설계 및 수자원계획을 수립하기 위한 입력 자료로 이용된다. 일반적으로 수자원계획은 장기적인 목적을 가지고 수행되어지며, 장기간의 일강수량 자료를 필요로 한다. 하지만 장기간의 일강수량 자료의 획득의 어려움으로 단기간의 일강수량자료를 이용하여 모의한 장기간 강수자료를 이용하게 된다. 이처럼 수자원계획의 수립에 있어서 일강수량 모의기법의 성능은 수자원계획의 신뢰성 및 결과에 큰 영향을 준다. 일강수량 모의기법은 국내외적으로 매우 활발하게 이루어지고 있으며, 수자원계획 및 수공구조물 설계 외에도 매우 다양한 목적으로 활용되어 지고 있다. 일강수량을 모의기법 중 강수계열의 단기간의 기억(memory)을 활용한 Markov Chain 모형이 가장 일반적이지만, 기존 Markov Chain 모형을 통한 일강수량 모의는 극치강수량을 재현하기 어렵다는 문제점이 있다. 또한, 일강수량 모의 기법의 목적인 수자원계획 및 수공구조물 설계 등의 입력자료로 활용되어지기 위해서는 모의 결과가 유역내 지점별 공간 상관성을 재현함으로써 모형의 우수성과 자료결과의 신뢰성을 확보할 수 있어야 하겠다. 이러한 점에서 본 연구에서는 내삽에서 우수한 재현능력을 갖는 핵 밀도함수와 극치강수량 재현에 유리한 GPD분포의 특징을 함께 고려할 수 있는 불연속 Kernel-Pareto Distribution 기반에 공간상관성 재현 알고리즘을 결합한 일강수량모의기법을 개발하였다. 한강유역의 18개 강수지점에 대해서 기존 Gamma분포를 사용한 Markov Chain 모형과 본 연구에서 제안한 방법을 적용하여 모형을 평가해 보고자 한다. Gamma 분포기반 Markov Chain 모형의 경우 일강수량 모의 시 1차모멘트인 평균과 2-3차 모멘트 모두 효과적으로 재현하지 못하는 문제점이 나타났다. 그러나 본 연구에서 적용한 다지점 불연속 Kernel-Pareto 분포 모형은 강수계열의 평균적인 특성뿐만 아니라 표준편차 및 왜곡도의 경우에도 관측치의 통계특성을 매우 효과적으로 재현하며, 100년빈도 강수량 모의결과 기존 모의모형의 문제점을 보완할 수 있는 개선된 결과를 보여주었다. 본 연구에서 제시한 방법론은 유역내의 공간상관성을 재현하며, 평균 및 중간값 등 낮은 차수의 모멘트 등 일강수량 분포특성을 더욱 효과적으로 모의할 수 장점을 확인하였다.

  • PDF

극한 호우의 규모 평가를 위한 대규모 기후 앙상블 자료의 적용: 2018년 히로시마 극한 호우의 사례 (Application of a large-scale climate ensemble simulation data to evaluate the scale of extreme rainfall: The case of 2018 Hiroshima extreme-scale rainfall event)

  • 김영규;손민우
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2022년도 학술발표회
    • /
    • pp.290-290
    • /
    • 2022
  • 본 연구는 대규모 기후 앙상블 모의 결과를 이용하여 산정된 극한 강우량을 최근 발생한 극한 호우사상의 규모 평가에 적용하는 것을 목적으로 수행되었다. 2018 년 히로시마 호우사상은 지속시간 24 시간에서 재현기간 1,000 년에 상응하는 극한 규모를 나타냈기 때문에 짧은 기간동안 수집된 관측자료만으로 규모를 평가하기 어렵다. 따라서 이를 평가하고자 대규모 기후 앙상블 모의결과 기반의 d4PDF 자료를 이용하였다. 이 자료는 3,000 개의 연 최대 강우자료를 제공하고, 이를 토대로 통계적 모형 및 가정 없이 비모수적으로 10 년부터 1,000 년의 재현기간을 나타내는 지속시간 24 시간의 확률강우량을 산정했다. 산정된 d4PDF 의 확률강우량은 관측강우량의 확률강우량과 비교하였으며, 관측기간에 가까운 50 년의 재현기간에서는 두 확률강우량의 차이가 3.53%였지만 관측기간 (33 년)과 재현기간 (100 년 이상)의 차이가 증가할수록 오차가 10% 이상으로 증가하는 양상을 나타냈다. 이는 장기간 재현기간에서 관측강우량의 확률강우량은 불확실성을 내포하는 것을 의미한다. d4PDF 의 확률강우량에 대해서 2018 년 히로시마 호우사상은 300 년에 가까운 재현기간을 나타냈다. 미래 기후조건에서의 d4PDF 자료를 이용해 확률강우량을산정했으며, 현재 기후조건대비 미래 기후조건에서 10 년부터 1000 년의 재현기간을 나타내는 확률강우량은 모두 20% 이상으로 증가했다. 미래 기후조건의 확률강우량에 대해 2018 년 히로시마 호우사상은 100 년에 가까운 재현기간을 나타냈으며, 이는 미래 기후조건에서 히로시마 호우사상의 발생 확률이 0.33% (현재 기후)에서 1% (미래 기후)로 증가하는 것을 의미한다. 결과적으로, 대규모 기후 앙상블 모의결과 기반의 d4PDF 는 현재 기후조건과 미래 기후조건하에서 극한 규모의 호우사상의 정량적인 평가에 유용하게 활용될 수 있다.

  • PDF

수문자료 크기에 따른 지역빈도해석 적용성 기준 검토 (Review on the Application of Regional Frequency Analysis According to the Sample Size of Hydrologic Data)

  • 김경덕;허준행
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2004년도 학술발표회
    • /
    • pp.190-194
    • /
    • 2004
  • 본 연구에서는 수문자료에 내한 빈도해석을 수행하는데 있어서 적정할 자료크기가 어느 정도인지를 모의 실험을 동하여 검토하었다. 모의실험 걸과 재현기간 100년인 경우 4.5배, 재현기간 200년인 경우 5배 정도의 자료크기가 될 때 모집단 확률값대 모의 평균된 확률값의 상대오차 $5\%$범위내에 위치하는 것으로 나타났다. 이와 같이 확률분포형, 자료크기, 재현기간에 따라 신뢰한 수 있는 확률수문량을 산정하기 위한 기준(지점 및 지역빈도해석 적용)을 제시하게 되면 현재 국내 실무에서 지역빈도해석을 도입하고자 하는 시점에서 많은 도움이 될 수 있을 것으로 판단된다.

  • PDF

강우자료의 비정상성을 고려한 재현기간 변화에 관한 연구 (A Study on the Changes of Return Period Considering Nonstationarity of Rainfall Data)

  • 신홍준;안현준;허준행
    • 한국수자원학회논문집
    • /
    • 제47권5호
    • /
    • pp.447-457
    • /
    • 2014
  • 본 연구에서는 초과확률 또는 비초과확률이 시간에 따라 변화한다는 비정상성을 가정하여 재현기간 산정에 대한 연구를 수행하였다. 비정상성을 고려한 2가지 재현기간 산정 방법에 대해 검토하고 비정상성 Gumbel 모형을 이용한 빈도해석을 수행하여 초과확률및 비초과확률을 구한 뒤비정상성을 고려한 재현기간 정의에따른 우리나라 재현기간의 변화에 대해서 살펴보았다. 적용 대상으로는 자료기간 30년 이상을 보유하면서 일 강우 자료의 경향성이 나타나는 서귀포, 인제, 제천, 구미, 문경, 거창 등 6개 지점을 선정하였다. 적용결과 비정상성을 고려한 재현기간 산정 시 기존의 재현기간 산정방법과는 재현기간이 다르게 산정됨을 알 수 있었고, 재현기간이 커질수록 정상성 가정하의 재현기간과 비정상성 가정하의 재현기간 값의 차이가 더 커지는 것으로 나타났다. 또한 비정상성을 고려한 재현기간의 2가지 정의 중 기대 대기시간(expected waiting time) 정의에 의한 방법이 기대 초과사상 수(expected number of exceedance event) 정의에 의한 방법보다 작은 재현기간이 산정 되었다.

기계학습 기법을 이용한 다지점 일강수량 모의 모형 개발 (Deelopment of a Multisite Daily Rainfall Simulation Model Using a Machine Learning)

  • 소병진;권현한
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2017년도 학술발표회
    • /
    • pp.83-83
    • /
    • 2017
  • 수자원공학에서 일강수량 모의기법은 다양한 목적으로 활용되고 있지만, 일반적으로 홍수와 가뭄의 영향을 고려할 수 있는 수공구조물의 위험도 및 신뢰성 평가 및 수자원 계획을 수립하기 위한 입력 자료생성을 목적으로 활용된다. 유역 단위의 분석시 단일 지점에 대한 강수 모의 기법을 적용할 경우 각각의 지점에서 관측된 강수 자료의 시계열 및 통계치 특성이 효과적으로 재현되지만 공간적으로 발생하는 즉, 지점 간의 종속관계를 재현하지 못하는 문제가 발생한다. 이러한 이유로 공간적인 전이 특성이 있는 가뭄 분석 및 유역내 유출량의 공간적 변동 특성 분석에 단일지점별 모의 결과를 이용할 경우 관측 자료와 상반된 공간적 변동성으로 인하여 잘못된 가뭄 및 유출 분석 결과가 도출되는 문제점이 있다. 따라서, 실제적으로 발생하는 강수 특성을 반영한 유역 단위의 홍수 및 가뭄 등의 수문 분석을 위해서는 지점간의 종속성을 반영할 수 있는 다지점 강수 모의 모형의 적용이 필수적이다. 본 연구에서는 다지점 모의에 있어서, Wilks 모형의 지점별 시변동 특성과 공간상관성 재현 능력, HMM 모형이 갖는 강수 사상별로 분포된 양적 분포 패턴 재현 능력을 복합적으로 나타낼 수 있는 새로운 다지점 일강수량 모의 모형인 기계학습 기반 범주화 기법을 이용한 다지점 일강수량 모의 모형(ML-MRS)을 개발하였다. 또한, 지점별 강수량에 적용되는 확률분포모형은 Gamma 분포로 구성된 혼합모형을 적용하여 단일 확률 분포 모형의 자료 적합 문제를 개선하였다. 모의를 통한 일강수량 시계열 자료는 일 강수자료의 통계량을 효과적으로 모의하였으며, 다지점 모형의 모의 결과를 적용한 가뭄 모의 결과 관측 자료에서 나타나는 공간적 패턴이 재현되었다. 본 모형은 시 공간적 사상을 효과적으로 재현함으로서 지역의 변동특성을 반영한 가뭄, 홍수, 기상 현상 분석 등 활용도가 매우 높을 것으로 판단된다.

  • PDF