• 제목/요약/키워드: 결측정보

검색결과 137건 처리시간 0.026초

나이브 성향점수보정 추정량의 정확성 향상을 위한 이중 사후층화 방법 연구 (A study to improve the accuracy of the naive propensity score adjusted estimator using double post-stratification method)

  • 여이수;신기일
    • 응용통계연구
    • /
    • 제36권6호
    • /
    • pp.547-559
    • /
    • 2023
  • 표본조사에서 무응답의 적절한 처리는 추정의 정확성을 향상한다. 결측 메카니즘이 MCAR (missing completely at random) 또는 MAR (missing at random)인 경우에서는 이를 적절히 처리할 수 있는 다양한 방법이 연구되었다. 무응답이 발생하였을 때 사용하는 평균 추정량으로 흔히 성향점수보정 추정량이 사용되며 MAR 또는 MCAR 무응답인 경우, 알려진 표본 가중치와 타당한 방법으로 추정된 응답확률을 사용할 수 있으므로 성향점수보정 추정량은 불편추정량이 된다. 그러나 관심변수 값에 영향을 받는 무응답인 MNAR (missing not at random) 무응답에서는 정확한 응답확률을 구하는 것이 어려워 성향점수보정 추정량에 편향이 발생할 수 있다. Chung과 Shin (2017, 2022)은 무정보적 표본설계에서 MNAR 무응답이 발생하였을 때 평균 추정의 정확성을 향상하는 방법으로 단일 사후층화 방법을 제안하였다. 본 연구에서는 정보적 표본설계를 사용하고, MNAR 무응답이 발생한 경우에서 나이브 성향점수보정 추정량의 정확성 향상을 위한 이중 사후층화 방법을 제안하였다. 또한, 모의실험을 통해 제안된 방법의 우수성을 확인하였다.

효과적인 결측치 보완을 통한 다층 퍼셉트론 기반의 전력수요 예측 기법 (A Multilayer Perceptron-Based Electric Load Forecasting Scheme via Effective Recovering Missing Data)

  • 문지훈;박성우;황인준
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제8권2호
    • /
    • pp.67-78
    • /
    • 2019
  • 정확한 전력수요 예측은 스마트 그리드의 효율적인 운영에 있어 매우 중요하다. 최근 IT 기술이 획기적으로 발전되면서, 인공지능 기법을 이용한 빅 데이터 처리를 기반으로 정확한 전력수요를 예측하는 많은 연구가 진행되고 있다. 이러한 예측 모델은 주로 외부 요인과 과거 전력수요를 독립 변수로 사용한다. 하지만, 다양한 내부적 또는 외부적 원인으로 전력수요 데이터의 결측치가 발생하게 되면 정확한 예측 모델을 구성하기가 어렵다. 이에 본 논문에서는 랜덤 포레스트 기반의 결측치 데이터 보완 기법을 제안하고, 보완된 데이터를 기반으로 한 다층 퍼셉트론 기반의 전력수요 예측 모델을 구성한다. 다양한 실험을 통해 제안된 기법의 예측 성능을 입증한다.

고위험성 조류인플루엔자(HPAI) 확산 방지를 위한 GAN 기반 가상 데이터 생성 (Generating GAN-based Virtual data to Prevent the Spread of Highly Pathogenic Avian Influenza(HPAI))

  • 최대우;한예지;송유한;강태훈;이원빈
    • 한국빅데이터학회지
    • /
    • 제5권2호
    • /
    • pp.69-76
    • /
    • 2020
  • 이 연구는 2019년도 정부(과학기술정보통신부)의 재원으로 정보통신기술진흥센터의 지원을 받아 수행된 연구이다. 고병원성조류인플루엔자(Highly Pathogenic Avian Influenza, HPAI)는 병원성이 높은 조류인플루엔자 바이러스 감염에 의하여 발생하는 조류의 급성 전염병으로 닭, 오리 등 가금류에서 피해가 심각하게 나타난다. 고병원성 조류인플루엔자(HPAI)는 연중으로 발생하기보다는 겨울철에 집중하여 발생되는 양상을 보이며, 특정 기간에는 아예 발생하지 않는 경우가 있다. 이와 같은 HPAI의 특성으로 인해 충분한 양의 실제 데이터가 축적되지 못하는 문제점이 있다. 본 논문 연구에서는 GAN 네트워크를 활용하여 결측치를 포함하고 있는 실제와 유사한 데이터를 생성하였으며 해당 과정을 소개한다. 본 연구 결과는 HPAI가 발생하지 않은 특정 시기에 대하여 실제와 유사한 시뮬레이션 데이터를 생성하여 위험도를 측정하는데 이용될 수 있다.

영화 데이터를 위한 쌍별 규합 접근방식의 군집화 기법 (Pairwise fusion approach to cluster analysis with applications to movie data)

  • 김희진;박세영
    • 응용통계연구
    • /
    • 제35권2호
    • /
    • pp.265-283
    • /
    • 2022
  • 사용자들의 영화정보를 기록한 MovieLens 데이터는 추천 시스템 연구에서 아이디어를 탐색하고 검증하는데 상당한 가치가 있는 데이터로, 기존 데이터 분할 및 군집화 알고리즘을 사용하여 사용자 평점 데이터를 기반으로 항목 집합을 분할하는 연구 등에 사용되는 데이터이다. 본 논문에서는 기존 연구에서 대표적으로 사용되었던 영화 평점 데이터와 영화 장르 데이터를 통해 사용자의 장르 선호도를 예측하여 선호도 패턴을 기반으로 사용자를 군집화(clustering)하고, 유의미한 정보를 얻는 연구를 진행하였다. MovieLens 데이터는 영화의 전체 개수에 비해 사용자별 평균 영화 평점 수가 낮아 결측 비율이 높다. 이러한 이유로 기존의 군집화 방법을 적용하는 데 한계가 존재한다. 본 논문에서는 MovieLens 데이터 특성에 모티브를 얻어 쌍별 규합 벌점함수(pairwise fused penalty)를 활용한 볼록 군집화(convex clustering) 기반의 방법을 제안한다. 특히 결측치 대체(missing imputation)도 동시에 해결하는 최적화 문제를 통해 기존의 군집화 분석과 차별화하였다. 군집화는 반복 알고리즘인 ADMM을 통해 제안하는 최적화 문제를 풀어 진행한다. 또한 시뮬레이션과 MovieLens 데이터 적용을 통해 제안하는 군집화 방법이 기존의 방법보다 노이즈 및 이상치에 상대적으로 민감하지 않은 것으로 보인다.

고혈압 위험 예측에 적용된 특징 선택 방법의 비교 (Comparison of Feature Selection Methods Applied on Risk Prediction for Hypertension)

  • ;김미혜
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제11권3호
    • /
    • pp.107-114
    • /
    • 2022
  • 본 논문에서는 질병관리청 국민건강영양조사(KNHANES: Korea National Health and Nutrition Examination Survey) 데이터베이스에서 특징선택 방법으로 고혈압을 감지 예측하는 방법을 개선했다. 또한 만성 고혈압과 관련된 다양한 위험 요인을 확인하였다. 본 논문은 3가지로 나누어, 첫째 결측값을 제거하고 Z-변환을 하는 데이터 전처리 단계이다. 다음은 데이터 셋에서 특징선택법을 기반으로 하는 요인분석(FA)을 사용하는 특징선택 단계이며, 특징선택을 기반으로 다중공선형 분석(MC)와 특징중요도(FI)을 비교했다. 마지막으로 예측분석단계에서 고혈압 위험을 감지하고 예측하는데 적용했다. 본 연구에서는 각 분류 모델에 대해 ROC 곡선(AUC) 아래의 평균 표준 오차(MSE), F1 점수 및 면적을 비교한다. 테스트 결과 제안한 MC-FA-RF모델은 80.12% 가장 높은 정확도를 보이고, MSE, f-score, AUC 모델의 경우 각각 0.106, 83.49%의, 85.96% 으로 나타났다. 이러한 결과는 고혈압위험 예측에 대한 제안된 MC-FA-RF 방법이 다른 방법에 비해 우수함을 보이고 있다.

은닉 마르코프 모델을 이용한 버스 정보 시스템의 도착 시간 예측 (Arrival Time Estimation for Bus Information System Using Hidden Markov Model)

  • 박철영;김홍근;신창선;조용윤;박장우
    • 정보처리학회논문지:컴퓨터 및 통신 시스템
    • /
    • 제6권4호
    • /
    • pp.189-196
    • /
    • 2017
  • 버스정보시스템은 버스도착시간 예측과 같은 버스와 관련한 여러 정보를 제공한다. BIS는 우리나라 거의 모든 도시에 구축되어 있고 대중교통의 편의성 개선에 능동적인 역할을 하고 있다. 현재 BIS 시스템에서 버스 도착 예정시간을 예측하기 위하여 사용되는 대표적인 방법으로는 이동평균필터, Kalman Filter, 회귀 모형 등이 있다. 버스 도착 시간 예측의 정확성은 BIS 시스템에서 고려하고 있는 교통 상황이나 예측 알고리즘에 따라 차이가 크다. 현재 BIS에서 사용하는 예측 기법은 구간 통과 시간과 거리만을 이용한다. 그러나 도착시간 예측은 교통흐름, 신호주기, 이상 상황, 데이터 결측 등에 큰 영향을 받는다. 버스 도착 시간 예측의 정확도를 높이기 위해서는 위의 문제를 고려하여 모델링해야 하는 어려움이 있다. 은닉 마르코프 모델은 이와 같은 다양한 상황을 효과적으로 모델링 할 수 있다. 따라서 버스 도착 시간 예측의 정확도를 높이기 위해 도착시간에 대한 HMM 예측 모델을 구축했다. 이 모델에서는 순천시의 2015년 한 해 동안 수집한 데이터가 이용되었으며, 순천시에는 2298개의 정류장과 217개의 노선이 있다. 모델은 주중과 주말의 패턴을 다르게 적용하며, 다른 구간과 시간에 대해 모델이 적용된다. 본 논문에서는 버스정보시스템에 은닉 마르코프 모델 적용방법과 검증을 통해 버스정보시스템에서 사용 중인 이동평균필터, Kalman Filter, 회귀 모형을 사용한 예측 방법 보다 정밀한 정확도를 얻는 방법을 제안한다.

중간 사건이 결측되었거나 구간 중도절단된 준 경쟁 위험 자료에 대한 회귀모형 (Regression models for interval-censored semi-competing risks data with missing intermediate transition status)

  • 김진흠;김자연
    • 응용통계연구
    • /
    • 제29권7호
    • /
    • pp.1311-1327
    • /
    • 2016
  • 본 논문에서는 종말 사건에 대한 정보는 주어져 있지만 중간 사건이 구간 중도절단되었거나 연구 기간 도중에 추적이 끊겨 중간 사건의 발생 유무를 모르는 준 경쟁 위험 자료에 다중상태모형을 적용하여 모수를 추정하는 방법을 제안하였다. 이를 위해 상태 간 전이 강도는 정규 프레일티를 랜덤효과로 가진 Cox 비례위험모형을 따른다고 가정하였다. 다섯 가지 상태를 가진 다중상태모형에서 가능한 여섯 가지 경로별로 조건부 우도를 정의하였고 주변 우도를 구하기 위해 조정 가우스 구적법을 적용하였으며 뉴튼-랩슨 방법으로 최적 해를 구하였다. 모수의 95% 신뢰구간 포함률을 통해 제안한 방법의 소표본 성질을 살펴보기 위해 모의실험을 수행하였으며, Persones $Ag{\acute{e}}es$ Quid(PAQUID) 자료 (Helmer 등, 2001)에 제안한 모형을 적용하고 그 결과를 해석하였다.

대형 교통사고 발생지점 유형화와 영향요인 분석에 따른 교통안전대책 방안에 관한 연구 (Traffic Safety Countermeasures According to the Accident Area Patterns and Impact Factor Analysis of the Large-scale Traffic Accident Locations)

  • 김봉기;정헌영;고상선
    • 대한교통학회지
    • /
    • 제24권1호
    • /
    • pp.39-52
    • /
    • 2006
  • 본 연구는 대형 교통사고의 발생지점들을 특성별로 유형화하기 위하여 군집분석(Cluster hnalysis)을 행하고, 아울러 충돌 형태에 미치는 영향요인에 대한 영향 정도를 판별할 수 있도록 하기 위하여 수량화 이론 II류(Quantification II)와 C&RT(Classification and Regression Trees) 방법에 의해 분석을 실시하여 이에 대한 적합성을 평가함으로써, 정량적 척도의 간략화를 도모하고자 하였다. 그 결과, 발생 지점별 유형화에 따른 4개 집단의 판별 및 분류분석의 충돌 형태별 제반 영향요인들 특성은 집단별로 명확한 차이를 보이는 것으로 나타나, 교통사고에 대해 우선 시행되어져야 할 대책과 보완 대책들을 집단별로 체계적으로 제시할 수 있었다. 하지만 상당수 변수들에 결측치가 많아, 막대한 정보 손실이 초래되어 보다 심층적인 분석을 하기 어려웠는바, 이러한 문제점을 해결하기 위해서는 대형 교통사고 조사. 분석 시 표준화된 원 자료 시트의 작성을 의무화할 필요가 있는 것으로 나타났다.

표본 선택 모형을 이용한 국내 여성 임금 데이터 분석 (Korean women wage analysis using selection models)

  • 정미량;김미정
    • Journal of the Korean Data and Information Science Society
    • /
    • 제28권5호
    • /
    • pp.1077-1085
    • /
    • 2017
  • 본 연구에서는 한국노동연구원의 "2015년 한국노동패널조사 (KLIPS)" 자료를 활용하여 국내 여성의 임금 결정요인을 분석하기 한다. 일반적으로 임금 자료는 랜덤 추출이 불가능하기 때문에 분석하기가 쉽지 않다. 표본 선택 편의 (sampling bias)가 있는 자료를 분석하는 방법으로 Heckman 표본 선택 모형이 가장 널리 알려져 있다. Heckman은 크게 두 가지 모형을 제안했는데, 그 중 하나는 최대 우도 방법을 이용하는 것이고, 다른 하나는 2단계 표본 선택 모형이다. 이 중 Heckman 2단계 표본 선택 모형은 주된 결과 모형 (outcome model)과 경제 활동 여부를 결정짓는 선택 모형 (selection model)을 포함한 모형으로써, 이 모형이 최대 우도 방법을 이용한 모형에 비해 이변수 오차의 정규분포 가정에 덜 민감하다고 알려져 있다. 그럼에도 불구하고 이변수 오차에 대한 정규 분포 가정은 꽤 강한 가정이라고 볼 수 있는데, 최근에 이 모형의 단점을 보완하는 모형으로 Marchenko와 Genton (2012)의Heckman 표본 선택 t 모형이 제시되었다. Heckman 2단계 모형과 Heckman 표본 선택 t 모형을 이용하여 국내 여성의 임금 결정 요인을 분석하고 비교하도록 한다.

Landsat 8호 영상 복원을 위한 SSG 기법 활용성 평가 (Evaluation of the Utility of SSG Algorithm for Image Restoration of Landsat-8)

  • 이미희;이달근;유정흠;김진영
    • 대한원격탐사학회지
    • /
    • 제36권5_4호
    • /
    • pp.1231-1244
    • /
    • 2020
  • Landsat 위성은 지구표면을 장기간 관측한 대표적인 광학위성으로 재난 대비/복구 모니터링, 토지 이용 변화, 변화 탐지, 시계열 모니터링 등의 장기적인 변화에 활용하기 적합한 위성이다. 본 연구에서는 간단하고 효율적으로 구름을 탐지 및 제거하기 위해 QA밴드를 이용하여 구름 및 구름 그림자를 탐지하였다. 그 다음, 참조영상의 화소값을 직접 참조하는 것이 아닌 복원을 수행할 영상 내 화소값으로 복원을 수행하는 SSG 알고리즘을 통해 영상의 결측영역을 복원하였다. 본 연구를 통하여 지표를 관측하는 기존의 가시광선 영역뿐만 아니라 열 파장대역의 다양한 토지피복 상태의 정보를 복원하여 정량·정성적으로 평가함으로써 변형된 SSG 알고리즘의 활용 가능성을 제시하고자 하였다.