• 제목/요약/키워드: 대용량자료

검색결과 369건 처리시간 0.026초

불균형의 대용량 범주형 자료에 대한 분할-과대추출 정복 서포트 벡터 머신 (A divide-oversampling and conquer algorithm based support vector machine for massive and highly imbalanced data)

  • 방성완;김재오
    • 응용통계연구
    • /
    • 제35권2호
    • /
    • pp.177-188
    • /
    • 2022
  • 일반적으로 support vector machine (SVM)은 높은 수준의 분류 정확도를 제공함으로써 다양한 분야의 분류분석에서 널리 사용되고 있다. 그러나 SVM은 최적화 계산식이 이차계획법(quadratic programming)으로 공식화되어 많은 계산 비용이 필요하므로 대용량 자료의 분류분석에는 그 사용이 제한된다. 또한 불균형 자료(imbalanced data)의 분류분석에서는 다수집단에 편향된 분류함수를 추정함으로써 대부분의 자료를 다수집단으로 분류하여 소수집단의 분류 정확도를 현저히 감소시키게 된다. 이러한 문제점들을 해결하기 위하여 본 논문에서는 다수집단을 분할(divide)하고, 소수집단을 과대추출(oversampling)하여 여러 분류함수들을 추정하고 이들을 통합(conquer)하는 DOC-SVM 분류기법을 제안한다. 제안한 DOC-SVM은 분할정복 알고리즘을 다수집단에 적용하여 SVM의 계산 효율을 향상시키고, 과대추출 알고리즘을 소수집단에 적용하여 SVM 분류함수의 편향을 줄이게 된다. 본 논문에서는 모의실험과 실제자료 분석을 통해 제안한 DOC-SVM의 효율적인 성능과 활용 가능성을 확인하였다.

행렬도에서 군집분석의 활용 (Applications of Cluster Analysis in Biplots)

  • 최용석;김형영
    • Communications for Statistical Applications and Methods
    • /
    • 제15권1호
    • /
    • pp.65-76
    • /
    • 2008
  • 행렬도 (biplot)는 이원표 자료행렬 (two-way data matrix)의 행과 열을 그래프에 동시에 나타내어 이들의 관계를 살피려는 다변량 그래프적 분석기법이다 (Gower와 Hand, 1996; 최용석, 2006, 1장). 그래프적 분석기법은 그 특성상 대용량 자료를 해석하는 데는 어려움이 따른다. 따라서, 자료를 효과적으로 줄일 수 있는 군집분석을 활용하여 원자료와 변수간의 행렬도가 아닌 각 군집과 변수간의 행렬도 분석을 수행함으로써, 기존의 행렬도에서 해석의 어려웠던 대용량 자료에 대한 해석이 가능하게 되며, 자료에 대한 정보를 쉽게 파악할 수 있는 장점을 가진다.

한국증권시장(韓國證券市場)에서 대용시장(代用市場)포트폴리오효율성(效率性)의 GMM에 의한 다변량(多變量) 검증(檢證)

  • 구본열
    • 재무관리연구
    • /
    • 제15권1호
    • /
    • pp.1-30
    • /
    • 1998
  • 본(本) 연구(硏究)는 한국증권시장에서 대표적 대용시장(代用市場)포트폴리오인 한국종합주가지수(韓國綜合株價指數)와 동일가중지수(同一加重指數)의 효율성에 대한 검증을 Hansen(1982)의 다변량의 GMM에 의하여 실시하고자 하였다. 이를 위하여 먼저, 주식수익률자료(株式收益率資料)에 근거한 산업별(産業別)포트폴리오수익률과 초과시장수익률모형(超過市場收益率模型)의 오차항(誤差項)이 정규분포(正規分布)를 벗어남을 증명함으로써 GMM검증방법(檢證方法)의 정당성을 찾고자 하였다. 정규분포에 대한 검증방법(檢證方法)으로서 왜도와 첨도의 검증과 이를 결합한 Jarque-Bera(1980)검증(檢證)을 실시하였다. 둘째로, Hansen(1982)의 GMM을 대용시장(代用市場)포트폴리오의 효율성(效率性) 검증(檢證)에 적용하는 방법에 대한 연구들인 Mackinlay-Richardson(1991), Harvey-Zhou(1993)와 Campbell-Lo-Mackilay(1997) 등을 기초로하여 이들의 방법론을 개선한 3가지의 효율성(效率性) 검증방법(檢證方法)을 제시하였다. 셋째로, 이상의 검증방법(檢證方法)들을 토대로 1980년 1월부터 1997년 6월까지 월별주식수익률(月別株式收益率)의 자료(資料)를 11업종으로 분류하여 산업별(産業別)포트폴리오수익률(收益率)과 초과시장수익률모형(超過市場收益率模型)에 의한 오차항(誤差項)이 정규분포(正規分布)를 따르는지와 아울러 대용시장(代用市場)포트폴리오의 효율성을 검증하였다. 검증결과(檢證結果), 산업별(産業別)포트폴리오수익률과 오차항(誤差項)은 대부분 정규성이 기각(棄却)되어 GMM검증방법(檢證方法)의 정당성이 입증되었다. 따라서 GMM에 의한 효율성(效率性)을 검증한 결과, 한국종합주가지수(韓國綜合株價指數)의 경우에는 평균-분산(平均-分散)프론티어(mean-variance frontier)상(上)에서의 대용시장(代用市場)포트폴리오의 효율성(效率性)은 기각(棄却) 할 수 없는 것으로 나타났으나 평균수익률(平均收益率)이 GMVP의 수익률보다 낮았기 때문에 효율적(效率的) 프론티어(efficient frontier)상(上)의 대용시장(代用市場)포트폴리오의 효율성(效率性)은 기각(棄却)되어 대용시장지수로서의 문제점이 있는 것으로 나타났다. 그러나 동일가중지수(同一加重指數)는 평균수익률이 GMVP의 수익률보다 높을 뿐만아니라 효율적(效率的) 프론티어상(上)의 대용시장(代用市場)포트폴리오의 효율성(效率性)도 채택되어 한국종합주가지수(韓國綜合株價指數)보다 우월한 지수(指數)인 것으로 나타났다.

  • PDF

Exif 태그 및 자료 동기화를 이용한 대용량 모바일 매핑 자료 관리체계 연구 (Study on Massive Mobile Mapping Data Management Systems using Exif Tags and Data Synchronizations)

  • 우희숙;권광석;안기석
    • Spatial Information Research
    • /
    • 제17권1호
    • /
    • pp.67-77
    • /
    • 2009
  • CCD 카메라, GPS 및 IMU 등을 갖춘 모바일매핑시스템은 도로를 따라서 도로 영상 뿐 만 아니라 동시에 주변 시설물에 대한 많은 정보를 취득할 수 있다. 그러나 취득된 다수의 파일은 후처리 작업이 많을 경우 자료의 누락 또는 변질이 발생할 가능성이 매우 높다. 또한 다양한 조사지역에 대해서 여러 조사팀에 의해 자료가 생산되기 때문에 자료들이 상충하거나 품질이 차이가 날 수 있다. 본 연구에서는 보다 체계적인 모바일 매핑 자료 관리를 위해 영상 태그 규격인 Exif를 이용하여 정밀한 GPS 시간과 필수 정보를 내재화하여 조사자료 관리 체계를 위한 일관된 관리식별코드로 활용한다. 또한 대용량 영상파일과 관련 정보를 합리적이고 체계적으로 관리될 수 있도록 자료 동기화 기술을 이용한다.

  • PDF

대용량 멀티미디어 문서를 위한 정보검색 시스템 (Information Retrieval System for Very Large Multimedia Docuement)

  • 진두석;최윤수;안성수
    • 한국멀티미디어학회:학술대회논문집
    • /
    • 한국멀티미디어학회 2002년도 추계학술발표논문집
    • /
    • pp.190-193
    • /
    • 2002
  • 인터넷의 급속한 보급과 함께 멀티미디어 문서의 사용에 대한 사용자의 요구가 증가하고 이에 따라 멀티미디어 문서 정보 검색에 관련된 연구들이 국내외적으로 활발하게 진행되고 있다. 멀티미디어 문서는, 데이터의 양이 방대할 뿐 아니라 데이터가 비정형화되어 있기 때문에 분석이 복잡하며 또한 효율적으로 저장, 검색하기가 매우 어렵다. 그러므로 이를 위해서는 적절한 멀티미디어 자료 저장 구조를 지닌 정보 검색 시스템이 절실히 요구된다. 따라서 본 논문에서는 대용량 멀티미디어 문서에 적합한 저장 구조를 가진 정보검색 시스템을 제안한다.

  • PDF

대용량 멀티미디어 데이터의 내용-기반 검색을 위한 근사 k-최근접 데이터 탐색 알고리즘 (Approximate k-Nearest Neighbor Search Algorithms for Content-Based Retrieval of Multimedia Data)

  • 송광택;심춘보;장재우
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 1998년도 가을 학술발표논문집 Vol.25 No.2 (1)
    • /
    • pp.256-258
    • /
    • 1998
  • 대용량의 멀티미디어 자료를 기반으로 하는 내용-기반 멀티미디어 검색 시스템에서 k-최근접 탐색 질의는 사용자의 매우 중요한 검색 질의 중에 하나이다. 하지만, 방대한 양의 멀티미디어 데이터베이스를 기반으로하는 경우에는 적중 에러 없는 정확(exact) k-최근접 데이터 탐색을 위해서 상당히 많은 디스크 접근 횟수가 요구된다. 본 논문에서는 X-트리에서의 정확 k-최근접 탐색 질의를 개선하고, 또한 사용자의 빠른 검색 성능을 위해 다소의 적중 에러는 허용한다 하더라도 디스크 접근 횟수를 줄이는 근사(approximate) k-최근접 탐색 알고리즘을 제안한다.

대용량 이종 XML 데이터 검색을 위한 RDBMS기반 인덱싱 기법 (Technology for Searching Massive XML Data with Different Schema)

  • 이성진;박영순
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2004년도 봄 학술발표논문집 Vol.31 No.1 (B)
    • /
    • pp.202-204
    • /
    • 2004
  • 최근 XML은 기업간 데이터 교환의 표준으로 자리잡았다. 기업간 데이터 교환은 필연적으로 대량의 XML형태의 데이터가 로그 형태로 보전되게 된다. W3C에서는 XML자료의 검색을 위하여 XQueryl.0을 발표하고 XML 검색문의 표준화를 제시하였다. 검색운과는 별도로 XML데이터의 저장 모델에 대한 연구 또한 활발히 진행되고 있다. 본 논문에서는 대용량 XML데이터를 RDBMS를 이용하여 저장하고 빠른 검색을 지원 할 수 있는 역 인덱싱 방안을 기초로 검색 성능을 향상시킬 수 있는 방안에 대하여 연구하고 기존 방법과의 비교 실험을 통해 그 효과를 검증하였다.

  • PDF

상황인지 시스템에서 대용량의 데이터 처리결과를 컨텍스트 정보로 제공하기 위한 방법 (A Method to Provide Context from Massive Data Processing in Context-Aware System)

  • 박유상;최종선;최재영
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제8권4호
    • /
    • pp.145-152
    • /
    • 2019
  • 단일 센서기기로부터 수집된 데이터와는 다르게 대용량의 데이터는 입력데이터의 구성 및 크기가 가변적이고, 처리 완료시점을 예측할 수 없는 특징을 갖고 있다. 상황인지 시스템이 이러한 환경의 요구사항을 적용하게 되면 컨텍스트 표현방법과 처리모듈들이 개별로 구성되어 해당 입력자료에 대한 호출 및 처리루틴이 복잡하게 구현될 수 있는 문제점이 있다. 이러한 문제점을 해결하기 위해서 본 논문에서 제안하는 처리방법은 온톨로지 기반의 지식표현을 통해 컨텍스트를 표현하고, 대용량의 데이터 처리결과를 반환하는 모듈의 중복 실행을 방지하여 컨텍스트 정보를 제공하기 위한 동작순서를 함께 기술한다. 실험에서는 헬스케어 환경에서 발생하는 센싱데이터 중 대용량의 데이터 처리결과를 필요로 하는 서비스에 대해 기술하고, 기존의 센싱데이터를 바탕으로 서비스를 제공하는 처리과정과 함께 대용량의 데이터 처리결과를 컨텍스트 정보로 제공하는 과정을 보인다.

교통 데이터에 대한 품질 평가 및 자료 처리 기법의 구현 (Implementation of Quality Evaluation, Error Filtering, Imputation for Traffic Missing Data)

  • 정수정;송수경;이민수;남궁성
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2007년도 가을 학술발표논문집 Vol.34 No.2 (C)
    • /
    • pp.185-190
    • /
    • 2007
  • 대용량의 자료가 생산됨에 따라 데이터를 효율적으로 저장, 관리, 이용할 수 있는 데이터 웨어하우스의 역할이 중요하게 되었고, 그에 따라 자료 처리 기법의 개발은 필수 과제가 되었다. 품질 평가와 오류 판단, 결측 보정의 자료 처리 과점은 자료의 신뢰도를 판단하고 활용도를 높일 수 있는 과정으로 매우 중요하다. 본 논문에서는 우리나라의 실제 교통상황을 반영하고 평가 기준의 오차를 줄이면서 더욱 간단 명료한 평가 계산식을 도입하여 효율적인 품질평가와 오류판단, 결측 보정의 자료 처리 기법을 제안한다. 또한 오류 판단 기준에 새로운 파라미터론 도입하여 교통 연구자의 요구 사항을 반영할 수 있게 하였다. 결측 보정 과정은 여러 기법을 연구하고 기존의 결측 보정 기법에 입력 변수를 추가하여 실제 대용량의 교통 자료에 적용하였다. 그리고 교통 자료가 저장되는 데이터베이스에 직접 접근하여 결측 보정과정을 수행하도록 PL/SQL로 구현하였으며, 이를 통해 교통 연구자에게 쉽고 다양한 방법으로 결측 보정을 수행하고 그 결과를 이용하여 다양한 교통 정보를 가공할 수 있는 환경을 제공하였다.

  • PDF

대용량 문서 집합에서 유사문서 탐색을 위한 후보 문서 쌍 검색 실험 (Experiment of Searching Candidate Text Pair for Searching Similar Texts among Massive Document Repository)

  • 박선영;정우근;조환규
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2010년도 한국컴퓨터종합학술대회논문집 Vol.37 No.1(C)
    • /
    • pp.275-278
    • /
    • 2010
  • 문서 표절과 관련된 이슈가 급증함에 따라 유사 문서 탐색과 관련한 연구가 활발히 진행되고 있다. 특히 인터넷의 발달로 인해 일반 사용자가 수많은 전자 문서에 쉽게 접근할 수 있게 됨에 따라 대용량 문서 집합에 대한 탐색 속도와 정확성의 중요성도 커지고 있다. 대용량 문서 집합 내에서 빠른 시간 내에 유사 문서를 탐색하는 방법에는 전역 사전을 이용하여 후보 문서 쌍(유사할 가능성이 높은 문서의 쌍)를 추출한 후 찾아낸 후보 문서 쌍에만 정밀한 검사를 수행함으로써 검사 시간을 줄이는 방법이 존재한다. 이 때, 후보 문서를 찾아내기 위하여 전역 사전(Global DICtionary, GDIC)이라는 자료 구조를 이용하게 되는데, 이 전역 사전을 효과적으로 사용하면 후보 문서 쌍을 찾아내는 시간을 기존보다 더욱 줄일 수 있다. 본 논문에서는 전역 사전을 더욱 효과적으로 활용하여 후보 문서 쌍 검색 시간을 대폭 줄이는 방법에 대해 기술하며, 어느 정도의 성능 향상이 있는지 실험을 통해 측정하였다. 20,000건의 실험용 말뭉치 자료와 6263건의 실존하는 보고 문서에 대해 실험한 결과, GDIC 생성에서 2.5~4,6%, 후보 문서 쌍 탐색에서 1%~15.4% 정도의 성능이 향상된 것을 확인할 수 있었다. 추후 update query를 최소화하여 GDIC 생성시간을 추가로 줄이는 방법에 대해 연구할 계획이다.

  • PDF