• Annual Conference on Human and Language Technology
• /
• 2020.10a
• /
• pp.441-445
• /
• 2020

토큰화(Tokenization)는 사람이 작성한 자연어 문장을 기계가 잘 이해할 수 있도록 최소 단위인 토큰으로 분리하는 작업을 말하여, 이러한 토큰화는 자연어처리 전반적인 태스크들의 전처리에 필수적으로 사용되고 있다. 최근 자연어처리 분야에서 높은 성능을 보이며, 다양한 딥러닝 모델에 많이 활용되고 있는 SentencePiece 토큰화는 여러 단어에서 공통적으로 출현하는 부분단어들을 기준으로, BPE 알고리즘을 이용하여 문장을 압축 표현하는 토큰화 방법이다. 본 논문에서는 한국어 기반 특허 문헌의 초록 자연어 데이터를 기반으로 SentencePiece를 비롯한 여러 토큰화 방법에 대하여 소개하며, 해당 방법을 응용한 기계번역 (Neural Machine Translation) 태스크를 수행하고, 토큰화 방법별 비교 평가를 통해 특허 분야 자연어 데이터에 최적화된 토큰화 방법을 제안한다. 그리고 본 논문에서 제안한 방법을 사용하여 특허 초록 한-영 기계번역 태스크에서 성능이 향상됨을 보였다.

• Digital Contents
• /
• no.2 s.45
• /
• pp.80-89
• /
• 1997

• Patent21
• /
• s.90
• /
• pp.40-48
• /
• 2010

• Patent21
• /
• s.45
• /
• pp.10-23
• /
• 2003

• Patent21
• /
• s.60
• /
• pp.40-41
• /
• 2005

• Patent21
• /
• s.63
• /
• pp.16-17
• /
• 2005

• Patent21
• /
• s.71
• /
• pp.6-11
• /
• 2007

• Patent21
• /
• s.58
• /
• pp.45-47
• /
• 2004

• Patent21
• /
• s.89
• /
• pp.44-47
• /
• 2010

• Patent21
• /
• s.54
• /
• pp.31-36
• /
• 2004