• Title/Summary/Keyword: 사전훈련

Search Result 341, Processing Time 0.034 seconds

A Study of Pre-trained Language Models for Korean Language Generation (한국어 자연어생성에 적합한 사전훈련 언어모델 특성 연구)

  • Song, Minchae;Shin, Kyung-shik
    • Journal of Intelligence and Information Systems
    • /
    • v.28 no.4
    • /
    • pp.309-328
    • /
    • 2022
  • This study empirically analyzed a Korean pre-trained language models (PLMs) designed for natural language generation. The performance of two PLMs - BART and GPT - at the task of abstractive text summarization was compared. To investigate how performance depends on the characteristics of the inference data, ten different document types, containing six types of informational content and creation content, were considered. It was found that BART (which can both generate and understand natural language) performed better than GPT (which can only generate). Upon more detailed examination of the effect of inference data characteristics, the performance of GPT was found to be proportional to the length of the input text. However, even for the longest documents (with optimal GPT performance), BART still out-performed GPT, suggesting that the greatest influence on downstream performance is not the size of the training data or PLMs parameters but the structural suitability of the PLMs for the applied downstream task. The performance of different PLMs was also compared through analyzing parts of speech (POS) shares. BART's performance was inversely related to the proportion of prefixes, adjectives, adverbs and verbs but positively related to that of nouns. This result emphasizes the importance of taking the inference data's characteristics into account when fine-tuning a PLMs for its intended downstream task.

The effect of Pre-training and Collaboration script types on Collaboration skills and Shared meatal model in CSCL (CSCL 환경에서 사전훈련과 협력 스크립트 유형이 협력능력과 공유정신모형에 미치는 영향)

  • Kim, Soo Hyun
    • Journal of the Korea Academia-Industrial cooperation Society
    • /
    • v.13 no.11
    • /
    • pp.4984-4993
    • /
    • 2012
  • This study was initiated with the need of studies to promote learning and use of collaboration skills that learners should have in collaborative learning in CSCL. The researcher carried out research on 96 students taking the course of 'educational methods and educational technology' in K collage to take a look at the impact of prior training on collaboration in CSCL and interaction of types of collaborative scripts. To answer the first research question, the scores of each group's chatting in collaborative learning process and messages represented in the process of task performance based on collaborative skills were measured and analyzed. In addition, to answer the second research question, the scores of each group's shared mental model formulation based on relevant evaluation standards were analyzed. This study results, First, there was no significant difference in the acquisition of collaboration skills caused by interaction of prior training on collaboration and collaboration skills and collaborative scripts. However, it turned out that types of collaborative scripts give significant impacts on acquisition of collaboration skills. Second, there was also no significant difference between prior training on collaboration and the formulation of shared mental model by the interaction of collaborative scripts. However, it is showed that types of collaborative scripts have significant impacts on the formation of shared mental model.

A Study of Disaster Preparation Training System for the Industry (재난안전 현장훈련시스템에 관한 연구)

  • Kim, Kun-Hun
    • Proceedings of the Korean Society of Disaster Information Conference
    • /
    • 2022.10a
    • /
    • pp.179-180
    • /
    • 2022
  • 본 논문에서는 재난안전 대비 현장훈련시스템을 개발하기 위하여 현황을 분석하는 것이 목적이다. 현재 일반적으로 이뤄지고 있는 훈련은 실제 재난상황을 고려하지 않은 형식적인 훈련으로 재난유형 및 발생상황에 부적합한 훈련장소 및 시간에 실시하고 있다. 현재는 사전 공개된 훈련시나리오에 따른 연출된 보여 주기식 훈련으로 실제 재난상황이 발생할 때 의사결정 권한을 가진 지휘권자가 훈련에 불참하는 조직문화가 가장 먼저 해결되어야 하는 것으로 나타났다. 대형재난에 대한 대응능력을 강화하고 재난으로부터 국민을 보호하기 위한 안전훈련이 범국가적으로 진행되는 가운데 '안전한국훈련'을 에너지부분에서도 전국적으로 실시하고 있다. 미국, 일본의 재난대응훈련의 특징은 우리나라와 같이 평가지표 틀에 맞춘 시나리오를 개발하지 않고 있으며 시나리오 구성도 세분화하지 않고 단지 상황 설정과 대응 메시지, 돌발 메시지 등으로 위기대응 능력을 평가하고 있다는 것이다. 에너지산업 현장용 재난대비 훈련시스템 개발 및 구축은 국가안전 관리 측면에서도 매우 중요하다. 국가 차원의 종합 재난대응 및 인프라 제공을 위한 다수의 정보화사업이 추진되고 있으나 재난 정보를 활용한 사전 예방, 신속한 상황 전파, 정보공동 활용 및 대응 미진에 대한 종합적 진단이필요하다.

  • PDF

Development of Deep Learning-Based House-Tree-Person Test Analysis Model (딥러닝 기반 집-나무-사람 검사 분석 모델의 개발)

  • Cho, Seung-Je;Cho, Geon-Woo;Kim, Young-wook
    • Proceedings of the Korea Information Processing Society Conference
    • /
    • 2021.11a
    • /
    • pp.558-561
    • /
    • 2021
  • 심리학에서 사람의 심리 상태를 알아보기 위해 사용되는 검사 방법 중, 집-나무-사람 검사(HTP Test)는 피실험자가 그린 집, 나무, 사람을 포함하는 그림을 사용하여 피실험자의 심리를 분석하는 투영 검사법이다. 본 논문에서는 딥러닝 모델을 이용해 HTP Test 에 사용되는 그림을 분석하는 시스템을 제안하며, 성능 평가를 통해 심리학에서의 딥러닝 모델 적용 가능성을 확인한다. 또한 그림 데이터 분석에 적합한 사전 훈련 모델을 개발하기 위해, ImageNet 과 스케치 데이터셋으로 사전 훈련하여 성능을 비교한다. 본 논문에서 제안하는 시스템은 크게 감정 분석을 위한 이미지 객체 추출부, 추출된 객체로 피실험자의 감정을 분류하는 감정 분류부로 구성되어 있다. 객체 추출과 이미지 분류 모두 CNN(Convolution Neural Network) 기반의 딥러닝 모델을 사용하며, 이미지 분류 모델은 서로 다른 데이터셋으로 모델을 사전 훈련한 후, 훈련 데이터셋으로 전이 학습하여 모델의 성능을 비교한다. 그림 심리 분석을 위한 HTP test 스케치 데이터셋은, HTP Test 와 동일하게 피실험자가 3 개 클래스의 집, 나무, 사람의 그림을 그려 자체 수집하였다.

A Study of Disaster Preparation Training System for the Energy Industry (에너지 산업현장에서의 재난안전 현장훈련시스템에 관한 연구)

  • Park, Nam-Hee;Yeo, Wook-Hyun
    • Proceedings of the Korean Society of Disaster Information Conference
    • /
    • 2016.11a
    • /
    • pp.195-197
    • /
    • 2016
  • 본 논문에서는 재난안전 대비 현장훈련시스템을 개발하기 위하여 현황을 분석하는 것이 목적이다. 현재 일반적으로 이뤄지고 있는 훈련은 실제 재난상황을 고려하지 않은 형식적인 훈련으로 재난유형 및 발생상황에 부적합한 훈련장소 및 시간에 실시하고 있다. 현재는 사전 공개된 훈련시나리오에 따른 연출된 보여 주기식 훈련으로 실제 재난상황이 발생할 때 의사결정 권한을 가진 지휘권자가 훈련에 불참하는 조직문화가 가장 먼저 해결되어야 하는 것으로 나타났다. 대형재난에 대한 대응능력을 강화하고 재난으로부터 국민을 보호하기 위한 안전훈련이 범국가적으로 진행되는 가운데 '안전한국훈련'을 에너지부분에서도 전국적으로 실시하고 있다. 미국, 일본의 재난대응훈련의 특징은 우리나라와 같이 평가지표 틀에 맞춘 시나리오를 개발하지 않고 있으며 시나리오 구성도 세분화하지 않고 단지 상황 설정과 대응 메시지, 돌발 메시지 등으로 위기대응 능력을 평가하고 있다는 것이다. 에너지산업 현장용 재난대비 훈련시스템 개발 및 구축은 국가안전 관리 측면에서도 매우 중요하다. 국가 차원의 종합 재난대응 및 인프라 제공을 위한 다수의 정보화 사업이 추진되고 있으나 재난 정보를 활용한 사전 예방, 신속한 상황 전파, 정보 공동 활용 및 대응 미진에 대한 종합적 진단이 필요하다.

  • PDF

The Effectiveness of a Behavior-Emotion Centered Sympathy Skills Parenting Training for Autism Spectrum Disorder to Improve Social Skills and Daily living functions (행동-감정 반영 중심의 공감 기술 증진 부모훈련이 자폐스펙트럼 장애 아동의 사회기술과 일상생활기능에 미치는 효과)

  • Chung, hee-seung
    • Proceedings of the Korea Contents Association Conference
    • /
    • 2015.05a
    • /
    • pp.397-398
    • /
    • 2015
  • 본 연구의 목적은 행동-감정 반영 중심의 공감기술 증진 부모훈련이 자폐스펙트럼 장애 아동의 사회기술과 일상생활 기능에 미치는 효과를 알아보고자 하는 것이다. 연구대상자는 만 3세-7세의 남녀 35명이 참여하였고, 부모훈련은 주 2회씩 총 10회기를 실시하였다. 부모훈련의 내용구성은 사전검사와 전문가를 통한 내용타당도 검증을 실시한 후에 적용하였고, 자료처리는 SPSS 18.0을 이용하였다. 부모교육 프로그램의 전과 후의 효과를 검증하기 위해서 통제집단 사전사후검사설계를 하였다. 효과검정은 ANCOVA를 하였다. 연구결과 부모훈련실시 후, 자페스펙트럼장애아동의 사회기술과 일상생활기능을 증진시키는데 효과가 있었다. 결론적으로 행동-반영중심의 공감기술증진 부모훈련은 자폐스펙트럼장애 아동의 사회기술과 일상생활 기능 증진에 효과가 있었다.

  • PDF

Application of transfer learning to develop radar-based rainfall prediction model with GAN(Generative Adversarial Network) for multiple dam domains (다중 댐 유역에 대한 강우예측모델 개발을 위한 전이학습 기법의 적용)

  • Choi, Suyeon;Kim, Yeonjoo
    • Proceedings of the Korea Water Resources Association Conference
    • /
    • 2022.05a
    • /
    • pp.61-61
    • /
    • 2022
  • 최근 머신러닝 기술의 발달에 따라 이를 활용한 레이더 자료기반 강우예측기법이 활발히 개발되고 있다. 기존 머신러닝을 이용한 강우예측모델 개발 관련 연구는 주로 한 지역에 대해 수행되며, 데이터 기반으로 훈련되는 머신러닝 기법의 특성상 개발된 모델이 훈련된 지역에 대해서만 좋은 성능을 보인다는 한계점이 존재한다. 이러한 한계점을 해결하기 위해 사전 훈련된 모델을 이용하여 새로운 데이터에 대해 모델을 훈련하는 전이학습 기법 (transfer learning)을 적용하여 여러 유역에 대한 강우예측모델을 개발하고자 하였다. 본 연구에서는 사전 훈련된 강우예측 모델로 생성적 적대 신경망 기반 기법(Generative Adversarial Network, GAN)을 이용한 미래 강우예측모델을 사용하였다. 해당 모델은 기상청에서 제공된 2014년~2017년 여름의 레이더 이미지 자료를 이용하여 초단기, 단기 강우예측을 수행하도록 학습시켰으며, 2018년 레이더 이미지 자료를 이용한 단기강우예측 모의에서 좋은 성능을 보였다. 본 연구에서는 훈련된 모델을 이용해 새로운 댐 유역(안동댐, 충주댐)에 대한 강우예측모델을 개발하기 위해 여러 전이학습 기법을 적용하고, 그 결과를 비교하였다. 결과를 통해 새로운 데이터로 처음부터 훈련시킨 모델보다 전이학습 기법을 사용하였을 때 좋은 성능을 보이는 것을 확인하였으며, 이를 통해 여러 댐 유역에 대한 모델 개발 시 전이학습 기법이 효율적으로 적용될 수 있음을 확인하였다.

  • PDF

Learning acoustic cue weights for Korean stops through L2 perception training (지각 훈련을 통한 한국어 폐쇄음 음향 신호 가중치의 L2 학습)

  • Oh, Eunjin
    • Phonetics and Speech Sciences
    • /
    • v.13 no.4
    • /
    • pp.9-21
    • /
    • 2021
  • This study investigated whether Korean learners improve acoustic cue weights to identify Korean lenis and aspirated stops in the direction of native values through perception training that focused on contrasting the stops in various phonetic contexts. Nineteen native Chinese learners of Korean and two native Korean instructors for the perception training participated in the experiment. A training group and a non-training group were divided according to pretest results, and only the training group participated in the training for 5 days. To estimate the perceptual weights of the stop cues, a pretest and a posttest were conducted with stimuli whose stop cues (F0 and VOT) were systematically manipulated. Binary logistic regression analyses were performed on each learner's test results to calculate perceptual β coefficients, which estimate the perceptual weights of the acoustic cues used in identifying the stop contrast. The training group showed a statistically significant increase of 0.451 on average in the posttest for the coefficient values of the F0, which is the primary cue for the stop contrast, whereas the non-training group showed an insignificant increase of 0.246. The patterns of change in the F0 use after training varied considerably among individual learners.

Rapid Speaker Adaptation Based on MAPLR with Adaptive Hybrid Priors Estimated from Reference Speakers (참조화자로부터 추정된 적응적 혼성 사전분포를 이용한 MAPLR 고속 화자적응)

  • Song, Young-Rok;Kim, Hyung-Soon
    • The Journal of the Acoustical Society of Korea
    • /
    • v.30 no.6
    • /
    • pp.315-323
    • /
    • 2011
  • This paper proposes two methods of estimating prior distribution to improve the performance of rapid speaker adaptation based on maximum a posteriori linear regression (MAPLR). In general, prior distribution of the transformation matrix used in MAPLR adaptation is estimated from all of the training speakers who are employed to construct the speaker-independent model, and it is applied identically to all new speakers. In this paper, we propose a method in which prior distribution is estimated from a group of reference speakers, selected using adaptation data, so that the acoustic characteristics of the selected reference speakers may be similar to that of the new speaker. Additionally, in MAPLR adaptation with block-diagonal transformation matrix, we propose a method in which the mean matrix and covariance matrix of prior distribution are estimated from two groups of transformation matrices obtained from the same training speakers, respectively. To evaluate the performance of the proposed methods, we examine word accuracy according to the number of adaptation words in the isolated word recognition task. Experimental results show that, for very limited adaptation data, statistically significant performance improvement is obtained in comparison with the conventional MAPLR adaptation.

Development of Flipped Learning-based Educational Model for Vocational Education and Training (직업교육훈련을 위한 플립러닝 기반 교육모델 개발)

  • Wee, Young-eun;Jung, Hyojung;Lim, Jung-Yeon
    • The Journal of the Korea Contents Association
    • /
    • v.19 no.1
    • /
    • pp.37-46
    • /
    • 2019
  • The purpose of this study is to develop a flipped-learning based education model for vocational education and training. Based on previous studies, we have developed a training model that includes definitions of flipped-learning, major learning activities, and operational strategies in each occupation. In addition, delphi surveys were carried out to confirm the validity of the educational model for HRD and vocational education and training specialists. Finally, the flipped-learning model for vocational education and training consists of three stages: Pre-learning, Main-learning, and Post-learning. Pre-learning stage include Online lectures, Simple tasks, Main-learning stage include Active learning and Coaching-Debriefing lecture, Post-learning stage includes Individual reflection-Additional task performance activities. The educational model developed through this study was developed with the focus on improving the linkage and the performance of the goal of vocational education and training.