• 한국음향학회지
• /
• 제40권5호
• /
• pp.466-472
• /
• 2021

화자 전환 검출은 대화 중에 발성 화자가 다른 사람으로 바뀌는 시점을 검출하는 것을 의미한다. 이 과정에서 화자 중복, 화자 정보 표기의 부정확성, 데이터 불균형 등으로 화자가 바뀌는 순간을 검출하는 데 어려움이 발생한다. 본 논문에서는 이러한 문제를 해결하기 위해 음성 인식에 널리 사용되는 TIMIT 데이터를 가공하여 충분한 양의 훈련 데이터를 얻었으며, 화자가 겹치는지를 파악한 후에 화자 전환 여부를 판단하였다. 본 논문에서는 화자 겹침을 고려한 화자 전환 검출 시스템을 구축하기 위하여 다양한 접근법을 사용하여 성능을 평가하고 검증했다. 그 결과 화자 겹칩 영역을 제거하기 위해 X-Vector 구조와 유사한 형태의 검출 시스템과 화자 전환 검출 시스템을 모델링하기 위한 Bi-LSTM 모델을 제안하였다. 실험 결과 기준 시스템보다 상대적으로 각각 4.6 %, 13.8 % 성능 향상을 확인하였다. 또한, 실험 결과를 기반으로 텍스트 정보와 화자 정보 등을 고려한다면 좀 더 강인한 화자 전환 검출 시스템을 구축할 수 있을 것으로 판단한다.

• 비교문화연구
• /
• 제39권
• /
• pp.329-354
• /
• 2015

The major goals of this paper are to identify the degree into which the meanings of 'see' verb can be extended, focusing on the extended meanings shown in the expressions that denote our instinctive actions for survival, such as eating or drinking, etc., and to clarify the doubt on whether any syntactic pattern can be associated with the meaning in the process of meaning extension of 'see' verb. For doing this task, this paper picked out 2,000 examples randomly from COCA (Corpus of Contemporary American English), in which the verb 'see' is used. This paper classified the sentences into thirteen different sentence types, according to the syntactic patterns. This research showed that these thirteen syntactic types lead us to figure out the process of the meaning extension of the verb 'see'. With this result, this paper made an attempt to provide the four steps toward the meaning extension of verb 'see'. The verb 'see' in the first step denotes the meaning of purely seeing the visualized objects. This verb in the second step expresses the shifted function, under which the agent in the subject position takes the seeing action as a secondary task in order to carry out other main task. The verb in the third step denotes the extended meanings irrelevant to the seeing action, because the sentences on this step do not contain any visualized objects. In the last step this verb functions as conventional implicature whose meaning does not contribute to the whole meaning of a sentence. In addition, this paper identified that the syntactic properties are deeply associated with the process of meaning extension of the verb 'see', and tried to formalize this relationship between the syntax and semantics within the framework of Construction Grammar based on A. Goldberg.

• 한국인터넷방송통신학회논문지
• /
• 제23권4호
• /
• pp.115-119
• /
• 2023

현재의 인공지능에서 사용되는 자연어 처리 모델은 거대하여 실시간으로 데이터를 처리하고 분석하는 것은 여러가지 어려움들을 야기하고 있다. 이런 어려움을 해결하기 위한 방법으로 메모리를 적게 사용해 처리의 효율성을 개선하는 방법을 제안하고 제안된 모델의 성능을 확인하였다. 본 논문에서 제안한 모델의 성능평가를 위해 적용한 기법은 BERT[1] 모델의 어텐션 헤드 개수와 임베딩 크기를 작게 조절해 큰 말뭉치를 나눠서 분할 처리 후 출력값의 평균을 통해 결과를 산출하였다. 이 과정에서 입력 데이터의 다양성을 주기위해 매 에폭마다 임의의 오프셋을 문장에 부여하였다. 그리고 모델을 분류가 가능하도록 미세 조정하였다. 말뭉치를 분할 처리한 모델은 그렇지 않은 모델 대비 정확도가 12% 정도 낮았으나, 모델의 파라미터 개수는 56% 정도 절감되는 것을 확인하였다.

• 한국컴퓨터정보학회논문지
• /
• 제28권9호
• /
• pp.35-46
• /
• 2023

본 연구에서는 문서 분류기의 정확도를 높이기 위해 문맥 정보와 키워드 정보를 모두 사용하는 이중 접근(Dual Approach) 방법론을 제안한다. 우선 문맥 정보는 다양한 자연어 이해 작업(Task)에서 뛰어난 성능을 나타내고 있는 사전학습언어모델인 Google의 BERT를 사용하여 추출한다. 구체적으로 한국어 말뭉치를 사전학습한 KoBERT를 사용하여 문맥 정보를 CLS 토큰 형태로 추출한다. 다음으로 키워드 정보는 문서별 키워드 집합을 Autoencoder의 잠재 벡터를 통해 하나의 벡터 값으로 생성하여 사용한다. 제안 방법을 국가과학기술정보서비스(NTIS)의 국가 R&D 과제 문서 중 보건 의료에 해당하는 40,130건의 문서에 적용하여 실험을 수행한 결과, 제안 방법이 문서 정보 또는 단어 정보만을 활용하여 문서 분류를 진행하는 기존 방법들에 비해 정확도 측면에서 우수한 성능을 나타냄을 확인하였다.

• 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
• /
• 한국정보과학회언어공학연구회 2020년도 제32회 한글 및 한국어 정보처리 학술대회
• /
• pp.491-494
• /
• 2020

최근 언어 모델(Language model)의 기술이 발전함에 따라, 자연어처리 분야의 많은 연구들이 좋은 성능을 내고 있다. 정해진 주제 없이 인간과 잡담을 나눌 수 있는 오픈 도메인 대화 시스템(Open-domain dialogue system) 분야에서 역시 이전보다 더 자연스러운 발화를 생성할 수 있게 되었다. 언어 모델의 발전은 응답 선택(Response selection) 분야에서도 모델이 맥락에 알맞은 답변을 선택하도록 하는 데 기여를 했다. 하지만, 대화 모델이 답변을 생성할 때 일관성 없는 답변을 만들거나, 구체적이지 않고 일반적인 답변만을 하는 문제가 대두되었다. 이를 해결하기 위하여 화자의 개인화된 정보에 기반한 대화인 페르소나(Persona) 대화 데이터 및 태스크가 연구되고 있다. 페르소나 대화 태스크에서는 화자마다 주어진 페르소나가 있고, 대화를 할 때 주어진 페르소나와 일관성이 있는 답변을 선택하거나 생성해야 한다. 이에 우리는 대용량의 코퍼스(Corpus)에 사전 학습(Pre-trained) 된 언어 모델을 활용하여 더 적절한 답변을 선택하는 페르소나 대화 시스템에 대하여 논의한다. 언어 모델 중 자기 회귀(Auto-regressive) 방식으로 모델링을 하는 GPT-2, DialoGPT와 오토인코더(Auto-encoder)를 이용한 BERT, 두 모델이 결합되어 있는 구조인 BART가 실험에 활용되었다. 이와 같이 본 논문에서는 여러 종류의 언어 모델을 페르소나 대화 태스크에 대해 비교 실험을 진행했고, 그 결과 Hits@1 점수에서 BERT가 가장 우수한 성능을 보이는 것을 확인할 수 있었다.

• 한국빅데이터학회지
• /
• 제7권2호
• /
• pp.11-29
• /
• 2022

사전학습 언어모델은 자연어 처리 작업에서 가장 중요하고 많이 활용되는 도구로, 대량의 말뭉치를 대상으로 사전학습이 되어있어 적은 수의 데이터를 이용한 미세조정학습으로도 높은 성능을 기대할 수 있으며, 사전학습된 토크나이저과 딥러닝 모형 등 구현에 필요한 요소들이 함께 배포되기 때문에 자연어 처리 작업에 소요되는 비용과 기간을 크게 단축시켰다. 트랜스포머 변형 모형은 이와 같은 장점을 제공하는 사전학습 언어모델 중에서 최근 가장 많이 사용되고 있는 모형으로, 번역을 비롯하여 문서 요약, 챗봇과 같은 질의 응답, 자연스러운 문장의 생성 및 문서의 분류 등 다양한 자연어 처리 작업에 활용되고 있으며 컴퓨터 비전 분야와 오디오 관련 분야 등 다른 분야에서도 활발하게 활용되고 있다. 본 논문은 연구자들이 보다 쉽게 사전학습 언어모델에 대해 이해하고 자연어 처리 작업에 활용할 수 있도록 하기 위해, 언어모델과 사전학습 언어모델의 정의로부터 시작하여 사전학습 언어모델의 발전과정과 다양한 트랜스포머 변형 모형에 대해 조사하고 정리하였다.

• 경영정보학연구
• /
• 제25권3호
• /
• pp.27-41
• /
• 2023

최근 많은 분야에서 기계학습에 대한 연구가 활발히 진행되고 있는데, 상당수의 연구들이 학습 모델의 성능을 개선하는 최신 방법론을 제시하고 있다. 본 연구에서는 방법론의 개발 못지않게 기계학습에 투입되는 훈련용 데이터의 '품질'을 개선하는 것 역시 중요하다는 점에 착안하여, 코퍼스 분석에서 자주 사용되는 '부분 문법' 처리 프로세스를 통해 훈련 데이터의 품질을 향상시키는 방법을 제시한다. 우리나라 100대 기업에 근무하는 재직자들이 채용플랫폼에 게시하는 방대한 양의 비정형 기업 리뷰 텍스트 데이터를 수집하고, 데이터 품질을 부분 문법 프로세스로 개선한 후, 부분 문법이 적용된 분류 모델이 적용되지 않은 모델보다 분류 성능이 우수함을 확인하였다. 분류 카테고리는 직원 몰입의 5가지 요인으로 상정하였는데, 국내 직장인들이 기업 리뷰가 각 유형별로 빈도에 차이가 있는지를 분석하였다. 추가로 리뷰 양상이 코로나 팬데믹 전후로 어떠한 변화가 있었는지도 분석하였다. 본 연구를 통해 국내 직장인들의 생생한 일터 경험들을 자동적으로 식별하고 분류하여, 이직을 포함한 주요한 조직문화 현상의 행태와 유발 원인 등을 유추해 볼 수 있는 근거를 제공한다.

• Journal of Ginseng Research
• /
• 제47권5호
• /
• pp.672-680
• /
• 2023

Background: Korean Red Ginseng (KRG), the steamed root of Panax ginseng, has pharmacological activities for immunological and neurodegenerative disorders. But, the role of KRGE in multiple sclerosis (MS) remains unclear. Purpose: To determine whether KRG extract (KRGE) could inhibit demyelination in corpus callosum (CC) of cuprizone (CPZ)-induced murine model of MS Methods: Male adult mice were fed with a standard chow diet or a chow diet supplemented with 0.2% (w/w) CPZ ad libitum for six weeks to induce demyelination while were simultaneously administered with distilled water (DW) alone or KRGE-DW (0.004%, 0.02 and 0.1% of KRGE) by drinking. Results: Administration with KRGE-DW alleviated demyelination and oligodendrocyte degeneration associated with inhibition of infiltration and activation of resident microglia and monocyte-derived macrophages as well as downregulation of proinflammatory mediators in the CC of CPZ-fed mice. KRGE-DW also attenuated the level of infiltration of Th1 and Th17) cells, in line with inhibited Mrna expression of IFN-γ and IL-17, respectively, in the CC. These positive effects of KRGE-DW mitigated behavioral dysfunction based on elevated plus maze and the rotarod tests. Conclusion: The results strongly suggest that KRGE-DW may inhibit CPZ-induced demyelination due to its oligodendroglial protective and anti-inflammatory activities by inhibiting infiltration/activation of immune cells. Thus, KRGE might have potential in therapeutic intervention for MS.

• Journal of Korean Neurosurgical Society
• /
• 제29권8호
• /
• pp.1030-1036
• /
• 2000

본 논문에서 뇌동정맥기형에 대해 포톤나이프로 정위적 방사선 수술을 시행한 후 방사선학적으로 10명의 환자중 6례에서 완전 폐색, 4례에서 부분적 폐색을 보였으며, 특히 3cm이하의 작은 뇌동정맥기형 7례중 6례에서 완전 폐색을 보였다(완전 폐색율 : 85.7%). 모든 환자에서 방사선 수술로 인한 방사선학적 합병증의 발병은 없었다. 신경학적으로도 모든 환자에서 방사선 수술 전에 보이던 증상들이 호전을 보였다. 포톤나이프 방사선 수술 시스템은 이미 실험적으로 안정성이 검증된 것으로 이 논문에서 임상적으로 방사선 수술의 안정성 및 정확성을 다시 확인할 수 있었다. 정위적 방사선 수술은 지금까지 치료 불가능했던 부위에 생긴 병소, 수술이나 다른 치료방법으로 완전 제거에 실패한 경우, 노인환자나 다른 내과적 질환으로 수술이 어렵거나 수술적 치료를 거부하는 환자에서도 좋은 치료 방법으로 사용되어지며, 특히 뇌 중요부위나 심부병변에 위치한 경우 또는 최대직경이 3cm 이하의 소 동정맥기형으로 발견 당시 출혈량이 많지 않고 신경학적 결손이 경미한 환자에서 좋은 적응증이 되리라 사료된다.

• 정보처리학회논문지:소프트웨어 및 데이터공학
• /
• 제5권1호
• /
• pp.21-28
• /
• 2016

영어 구문 분석기는 영한 기계번역 시스템의 성능에 가장 큰 영향을 미치는 부분이다. 본 논문에서의 영어 구문 분석기는 규칙 기반 영한 기계번역 시스템의 한 부분으로서, 많은 구문 규칙을 구축하고 차트 파싱 기법으로 구문 분석을 수행한다. 구문 규칙의 수가 많기 때문에 구문 분석 과정에서 많은 구조가 생성되는데, 이로 인해 구문 분석 속도가 저하되고 많은 메모리를 필요로 하여 번역의 실용성이 떨어진다. 또한 쉼표를 포함하는 긴 문장들은 구문 분석 복잡도가 매우 높아 구문 분석 시간/공간 효율이 떨어지고 정확한 번역을 생성하기 매우 어렵다. 본 논문에서는 실제 생활에서 나타나는 긴 문장들을 효율적으로 번역하기 위해 문장 분할 방법을 적용한 3단계 구문 분석 방법을 제안한다. 구문 분석의 각 단계는 독립된 구문 규칙들을 적용하여 구문 분석을 수행함으로써 구문 분석의 복잡도를 줄이려 하였다. 이를 위해 구문 규칙을 3가지 부류로 분류하고 이를 이용한 3단계 구문 분석 알고리즘을 고안하였다. 특히 세 번째 부류의 구문 규칙은 쉼표로 구성되는 문장 구조에 대한 규칙으로 구성되는데, 이들 규칙들을 말뭉치의 분석을 통해 획득하는 방법을 제안하여 구문 분석의 적용률을 지속적으로 개선하고자 하였다. 실험을 통해 제안한 방법이 문장 분할만을 적용한 기존 2단계 구문 분석 방법에 비해 유사한 번역 품질을 유지하면서도 시간/공간 효율 면에서 우수함을 확인하였다.