Related Documents Classification System by Similarity between Documents

문서 유사도를 통한 관련 문서 분류 시스템 연구

Abstract

This paper proposes using machine-learning technology to analyze and classify historical collected documents based on them. Data is collected based on keywords associated with a specific domain and the non-conceptuals such as special characters are removed. Then, tag each word of the document collected using a Korean-language morpheme analyzer with its nouns, verbs, and sentences. Embedded documents using Doc2Vec model that converts documents into vectors. Measure the similarity between documents through the embedded model and learn the document classifier using the machine running algorithm. The highest performance support vector machine measured 0.83 of F1-score as a result of comparing the classification model learned.

본 논문은 머신 러닝 기술을 이용하여 과거의 수집된 문서를 분석하고 이를 바탕으로 문서를 분류하는 방법을 제안한다. 특정 도메인과 관련된 키워드를 기반으로 데이터를 수집하고, 특수문자와 같은 불용어를 제거한다. 그리고 한글 형태소 분석기를 사용하여 수집한 문서의 각 단어에 명사, 동사, 형용사와 같은 품사를 태깅한다. 문서를 벡터로 변환하는 Doc2Vec 모델을 이용해 문서를 임베딩한다. 임베딩 모델을 통하여 문서 간 유사도를 측정하고 머신 러닝 기술을 이용하여 문서 분류기를 학습한다. 학습한 분류 모델 간 성능을 비교하였다. 실험 결과, 서포트 벡터 머신의 성능이 가장 우수했으며 F1 점수는 0.83이 도출되었다.

그림 1. 벡터 거리로 단어간의 의미 파악 FIg. 1. Understand the meaning between words in vector distance

그림 2. 문서 분류기의 전체적인 설계 FIg. 2. Overall Design of Document Classification

그림 3. 문서 분류기의 데이터 전처리 과정 Fig. 3. Document calssification data preprocessing

그림 4. 키워드를 기반으로 수집하는 웹 크롤러 설계 Fig. 4. Web crawler designs collected based on keywords

그림 5. Doc2Vec 모델 구조 (PV-DM) Fig. 5. Doc2Vec Model structure (PV-DM)

그림 6. 머신 러닝 기술 분류기 실험 Fig. 6. Machine Learning Algorithm Classifier Experiment

표 1. 위해도 관련 뉴스와 그 외의 뉴스의 라벨링된 데이터 예시 Table 1. Examples of hazad related News and other news labeled data

표 2. Doc2Vec Parameter Table 2. Doc2Vec Parameter

표 3. 분류 모델 성능 비교 분석 Table 3. Classification Model Performance Comparison Analysis