• 제목/요약/키워드: 오차모수

검색결과 211건 처리시간 0.027초

하이브리드 드롭아웃 (Hybrid dropout)

  • 박종선;이명규
    • 응용통계연구
    • /
    • 제32권6호
    • /
    • pp.899-908
    • /
    • 2019
  • 수 많은 모수들을 가지고 있는 방대한 심층신경망은 매우 강력한 기계학습 방법이지만 모형의 과도한 융통성으로 인하여 과적합문제를 내포하고 있다. 드롭아웃 방법은 크기가 큰 신경망의 과적합 문제를 해결하는 다양한 방법들 중 하나이며 매우 효과적인 방법으로 알려져 있다. 드롭아웃 방법은 훈련과정에서 각각의 표본에 다른 모형을 적용하는데 이들 모형은 입력과 은닉층의 노드들을 무작위로 제거한 모형들 중에 임의로 선택된다. 본 연구에서는 임의로 선택된 모형에 둘 이상의 표본을 적용하여 모형의 가중치들에 대한 추정치의 안정성을 높이는 하이브리드 드롭아웃 방법을 제시하였다. 실제 자료를 이용한 시뮬레이션 결과 노드의 선택확률과 모형의 적합에 사용되는 표본의 수를 적절하게 선택하여 기존의 방법에 비하여 추정치의 변동성이 감소시킬 수 있었으며 동시에 검증자료에 대한 최저오차도 줄일 수 있음을 보였다.

잔차 수정을 이용한 불연속 분산함수의 비모수적 추정 (Nonparametric estimation of the discontinuous variance function using adjusted residuals)

  • 허집
    • Journal of the Korean Data and Information Science Society
    • /
    • 제27권1호
    • /
    • pp.111-120
    • /
    • 2016
  • 대부분의 불연속 회귀함수의 커널추정량은 알고 있거나 추정된 불연속점을 기준으로 자료를 분리하여 각각을 독립적으로 회귀함수를 적합하고 있다. 회귀모형에서 분산함수가 불연속점을 가지고 있을 때에도 잔차제곱들을 이용하여 위와 같은 불연속 회귀함수의 커널추정법을 활용하고 있다. Kang 등 (2000)은 $M{\ddot{u}}ller$ (1992)의 불연속점과 점프크기 커널추정량을 이용하여 반응변수의 표본을 연속인 회귀함수로부터 표본인 것처럼 수정하여 불연속 회귀함수를 추정하였다. 본 연구에서는 불연속 분산함수를 추정하기 위하여 Kang 등 (2000)의 방법을 이용한다. Kang과 Huh (2006)의 분산함수의 불연속점과 점프크기 추정량으로 잔차제곱들을 수정하고, 수정된 잔차제곱들을 이용하여 불연속 분산함수 커널추정량을 제안할 것이다. 제안된 추정량의 적분제곱오차의 수렴속도를 보여주고 모의실험을 통하여 기존의 추정량과 제안된 추정량을 비교하고자 한다.

이러닝수요부문 사업체실태조사를 위한 표본설계 (A sampling design for e-learning industry status survey on the business demand sector)

  • 김혜중;곽화륜
    • Journal of the Korean Data and Information Science Society
    • /
    • 제24권4호
    • /
    • pp.701-712
    • /
    • 2013
  • 이러닝 (e-learning)산업통계는 이러닝산업 전반에 걸친 수요와 공급을 망라한 실태조사통계로 2004년 이후 정보통신산업진흥원에 의해 매년 발표되고 있다. 한국표준산업분류가 2008년 개정 (제9차)됨에 따라, 이러닝 수요부문의 사업체조사에 사용해온 표본설계 (종사자규모 산업분류별 층화추출)에 대한 개선이 필요하게 되었다. 본 논문은 사업체조사의 목표모집단을 개정된 한국표준산업분류에 따라 종사자규모 산업분류별로 층화하고, 각 층에 부여된 목표변동계수값을 만족시키는 멱배분법의 승수를 모의실험으로 찾아서 층화별로 표본의 크기를 결정하였다. 이와 더불어 본 연구에서 고려한 표본가중치 계산, 그리고 가중치를 반영한 모수추정량과 추정오차는 기존의 조사에서 사용된 기술 통계적 분석을 벗어나 업종별과 종사자 규모별 추정과 추정의 정도에 대한 평가를 가능하게 하였다.

이중 결합 파우어 분포 특성을 이용한 유한고장 NHPP모형에 근거한 소프트웨어 학습효과 비교 연구 (The Comparative Study for Property of Learning Effect based on Software Reliability Model using Doubly Bounded Power Law Distribution)

  • 김희철;김경수
    • 융합보안논문지
    • /
    • 제13권1호
    • /
    • pp.71-78
    • /
    • 2013
  • 본 연구에서는 소프트웨어 제품을 개발하여 테스팅을 하는 과정에서 소프트웨어 관리자들이 소프트웨어 및 검사 도구에 효율적인 학습기법을 이용한 NHPP 소프트웨어 모형에 대하여 연구 하였다. 적용모형은 와이블 분포를 확장한 이중 결합 파우어 분포모형을 적용한 유한고장 NHPP에 기초하였다. 소프트웨어 오류 탐색 기법은 사전에 알지 못하지만 자동적으로 발견되는 에러를 고려한 영향요인과 사전 경험에 의하여 세밀하게 에러를 발견하기 위하여 테스팅 관리자가 설정해놓은 요인인 학습효과의 특성에 대한 문제를 비교 제시 하였다. 그 결과 학습요인이 자동 에러 탐색요인 보다 큰 경우가 대체적으로 효율적인 모형임을 확인 할 수 있었다. 본 논문의 수치적인 예에서는 고장 간격 시간 자료를 적용하고 모수추정 방법은 최우추정법을 이용하고 추세분석을 통하여 자료의 효율성을 입증한 후 평균제곱오차와 $R^2$(결정계수)를 이용하여 효율적인 모형을 선택 비교하였다.

공적분벡터의 안정성에 대한 실증연구 (Statistical Tests and Applications for the Stability of an Estimated Cointegrating Vector)

  • 김태호;황성혜;김미연
    • 응용통계연구
    • /
    • 제18권3호
    • /
    • pp.503-519
    • /
    • 2005
  • 공적분검정은 변수들간의 장기적 균형관계에 따른 공적분벡터가 표본기간 동안 일정하다는 가정하에서 실시된다. 따라서 기존의 연구들은 변수들 사이의 공적분관계를 안정적 장기균형관계로 해석해왔으나 장기균형관계가 존재해도 유일하지 않을 수 있으며, 표본기간 중 중요한 사건이 발생하는 경우 이러한 관계에 영향을 미처 안정성이 반드시 성립될 수 없다는 사실은 간과해왔다. 본 연구에서는 추정된 공적분벡터가 안정성을 유지하는가를 확인하기 위해 추가로 통계적 검정을 실시하였다. 공적분회귀모형 모수의 안정성을 검정하는 방식을 세분${\cdot}$체계화하여 공적분백터의 안정성 및 변동형태를 검색하는 실증분석에 적용시켜 보았다.

학습 효과 기법을 이용한 NHPP 소프트웨어 신뢰도 모형에 관한 연구 (The Study of NHPP Software Reliability Model from the Perspective of Learning Effects)

  • 김희철;신현철
    • 융합보안논문지
    • /
    • 제11권1호
    • /
    • pp.25-32
    • /
    • 2011
  • 본 연구에서는 소프트웨어 제품을 개발하여 테스팅을 하는 과정에서 소프트웨어 관리자들이 소프트웨어 및 검사 도구에 효율적인 학습기법을 이용한 NHPP 소프트웨어 모형에 대하여 연구 하였다. 적용분포는 와이블 분포를 적용한 유한고장 NHPP에 기초하였다. 소프트웨어 오류 탐색 기법은 사전에 알지 못하지만 자동적으로 발견되는 에러를 고려한 영향요인과 사전 경험에 의하여 세밀하게 에러를 발견하기 위하여 테스팅 관리자가 설정해놓은 요인인 학습효과의 특성에 대한 문제를 비교 제시 하였다. 그 결과 학습요인이 자동 에러 탐색요인보다 큰 경우가 대체적으로 효율적인 모형임을 확인 할 수 있었다. 본 논문의 수치적인 예에서는 고장 간격 시간 자료를 적용하고 모수추정 방법은 최우추정법을 이용하고 추세분석을 통하여 자료의 효율성을 입증한 후 평균자승오차와 $R_{sq}$(결정계수)를 이용하여 효율적인 모형을 선택 비교하였다.

대수 선형 위험함수 학습효과에 근거한 NHPP 신뢰성장 소프트웨어 모형에 관한 비교 연구 (The Comparative Study for NHPP Software Reliability Model based on the Property of Learning Effect of Log Linear Shaped Hazard Function)

  • 김희철;신현철
    • 융합보안논문지
    • /
    • 제12권3호
    • /
    • pp.19-26
    • /
    • 2012
  • 본 연구에서는 소프트웨어 제품을 개발하여 테스팅을 하는 과정에서 소프트웨어 관리자들이 소프트웨어 및 검사 도구에 효율적인 학습기법을 이용한 NHPP 소프트웨어 모형에 대하여 연구 하였다. 적용모형은 로그 형 위험함수 모형을 적용한 유한고장 NHPP에 기초하였다. 소프트웨어 오류 탐색 기법은 사전에 알지 못하지만 자동적으로 발견되는 에러를 고려한 자동에러탐색요인과 사전 경험에 의하여 세밀하게 에러를 발견하기 위하여 테스팅 관리자가 설정해놓은 요인인 학습효과의 특성에 대한 문제를 비교 제시 하였다. 그 결과 학습요인이 자동 에러 탐색요인보다 큰 경우가 대체적으로 효율적인 모형임을 확인 할 수 있었다. 본 논문의 소프트웨어 고장 자료 분석에서는 고장 간격 시간 자료를 적용하고 모수추정 방법은 최우추정 법을 이용하고 추세분석을 통하여 자료의 효율성을 입증한 후 평균제곱오차와 $R^2$(결정계수)를 이용하여 효율적인 모형을 선택 비교하였다.

회귀나무 모형을 이용한 패널데이터 분석 (Panel data analysis with regression trees)

  • 장영재
    • Journal of the Korean Data and Information Science Society
    • /
    • 제25권6호
    • /
    • pp.1253-1262
    • /
    • 2014
  • 회귀나무 (regression tree)는 독립변수로 이루어진 공간을 재귀적으로 분할하고 해당 영역에서 종속변수의 최선의 예측값을 찾고자 하는 비모수적 방법론이다. 회귀나무 모형이 제안된 이래 로지스틱 회귀나무모형이나 분위수 회귀나무모형과 같이 유연하고 다양한 모형적합을 위한 연구가 진행되어 왔다. 최근에 들어서는 Sela와 Simonoff (2012)의 RE-EM 알고리즘, Loh와 Zheng (2013)의 GUIDE 등 패널데이터와 관련하여 진일보한 나무모형 알고리즘도 제안되었다. 본 논문에서는 각 알고리즘을 소개하고 특징을 살펴보는 한편, 실험 데이터를 생성하여 평균제곱오차 (mean squared error)를 바탕으로 예측력을 비교하였다. 분석결과, RE-EM 알고리즘의 예측력이 상대적으로 우수하게 나타났다. 이 알고리즘을 통해 기업경기실사지수 업종별 패널자료를 분석한 결과 최근의 업황에 가장 큰 영향을 미치는 요소는 매출 실적으로 나타났으며 매출 상위 그룹의 경우 비제조업이 제조업에 비해 업황에 대한 판단이 긍정적인 것으로 나타났다.

혈압의 역학적 연구와 지속성(tracking)에 대한 통계학적 분석 (Statistical methods for evaluating the tracking phenomenon of blood pressure)

  • 서일;남정모;강형곤
    • 응용통계연구
    • /
    • 제6권2호
    • /
    • pp.191-200
    • /
    • 1993
  • 이 연구는 혈압에 대한 역학적인 연구의 특성 및 중요성을 소개하고 우리나라 아동의 혈압에 지속성 현상이 있는가를 밝히고자 하였다. 지속송에 대한 통계적 분석방법으로서 상관분석, 성장곡선 모형을 이용한 McMahan의 방법, 그리고 Blomqvist가 제안한 방법등을 우리나라 일부지역에서 6년간 추적관찰된 아동혈압자료에 적용하여 그 결과들을 비교 분석하였다. 측정오차를 교정한 상관분석은 계산이 용이하다는 장점이 있으나 추정된 상관계수 행렬이 시간의 차(lag-difference)에 따라 단조함수가 되지 않을 수 있으며 이런 경우 지속성에 대한 해석상의 어려움이 있다. McMahan 모형은 지속성을 역학적인 관점에서 타당성이 이다고 생각되는 상대 순위의 유지도란 개념으로 정의하고 또한 전체자료에 대한 공분산구조를 모형에 반영하여 요약된 지속성에 대한 지표를 계산할 수 있는 장점이 있으나, 계산이 복잡하고 성장곡선모수의 치수를 결정하는데 따른 어려움이 있다. Blomqvist 모형은 지속성을 초기 시점에서의 측정값과 전체 시계열자료에서의 변화율간의 선형적인 관계로부터 정의하고 이 경우 발생할 수 있는 평균으로서의 회귀에 대한 영향을 수학적으로 교정하였다는 장점이 있으나, 추정값이 양수가 아닌 경우 역학적인 관점에서의 해석상의 문제점이 존재한다.

  • PDF

딥러닝을 이용한 이변량 장기종속시계열 예측 (Bivariate long range dependent time series forecasting using deep learning)

  • 김지영;백창룡
    • 응용통계연구
    • /
    • 제32권1호
    • /
    • pp.69-81
    • /
    • 2019
  • 본 논문에서는 딥러닝을 이용한 이변량 장기종속시계열(long-range dependent time series) 예측을 고려하였다. 시계열 데이터 예측에 적합한 LSTM(long short-term memory) 네트워크를 이용하여 이변량 장기종속시계열을 예측하고 이를 이변량 FARIMA(fractional ARIMA) 모형인 FIVARMA 모형과 VARFIMA 모형과의 예측 성능을 실증 자료 분석을 통해 비교하였다. 실증 자료로는 기능적 자기공명 영상(fMRI) 및 일일 실현 변동성(daily realized volatility) 자료를 이용하였으며 표본외 예측(out-of sample forecasting) 오차 비교를 통해 예측 성능을 측정하였다. 그 결과, FIVARMA 모형과 VARFIMA 모형의 예측값에는 미묘한 차이가 존재하며, LSTM 네트워크의 경우 초매개변수 선택으로 복잡해 보이지만 계산적으로 더 안정되면서 예측 성능도 모수적 장기종속시계열과 뒤지지 않은 좋은 예측 성능을 보였다.