• 제목/요약/키워드: PPL Training

검색결과 2건 처리시간 0.017초

Evaluating the Impact of Training Conditions on the Performance of GPT-2-Small Based Korean-English Bilingual Models

  • Euhee Kim;Keonwoo Koo
    • 한국컴퓨터정보학회논문지
    • /
    • 제29권9호
    • /
    • pp.69-77
    • /
    • 2024
  • 본 연구는 GPT-2-Small 버전 모델을 사용하여 한국어와 영어를 학습하는 이중 언어 모델의 성능을 평가하고, 다양한 학습 조건이 모델 성능에 미치는 영향을 분석하였다. 연구 방법으로 단일 언어 학습, 순차 학습, 순차-교차 학습, 순차-EWC 학습의 네 가지 조건을 설정하여 모델을 훈련하였다. 국립국어원 말뭉치와 영어 위키피디어 말뭉치를 사용하고, PPL과 BLiMP 지표를 통해 성능을 측정하였다. 연구결과, 단일 언어 학습 조건에서 PPL 값은 16.2, BLiMP 정확도는 73.7%로 가장 우수한 성능을 보였다. 반면, 순차-EWC 학습 조건에서는 PPL 값이 41.9로 가장 높았고, BLiMP 정확도는 66.3%로 가장 낮았다(p < 0.05). 단일 언어 학습이 이중 언어 모델 성능 최적화에 가장 효과적임을 확인하였다. 이는 결정적 시기 이론에 따라 모델이 단일 언어에 최적화될 때 더 나은 성능을 보인다는 것을 의미한다. 또한, 프로그래밍 가소성을 조절하는 EWC 정규화를 적용한 지속 학습 조건에서는 성능 저하가 두드러졌는데, 이는 정규화가 가중치 업데이트를 제한하여 새로운 언어 학습 능력을 저하시켰다는 것을 의미한다. 본 연구는 언어 모델링에 대한 이해를 높이고, AI 언어 학습에서 인지적 유사성을 개선하는 데 기여한다.

The Effect of Studying Flight Training Materials utilizing Encoding Techniques on Situational Awareness Capabilities of Students in PPL Training

  • Moon, Jeong Yoon;Lee, Jang Ryong
    • 한국항공운항학회지
    • /
    • 제28권4호
    • /
    • pp.154-163
    • /
    • 2020
  • The pilot's aeronautical decision-making during the flying greatly affects flight safety, and the importance of situational awareness has been greatly emphasized as a prerequisite for making the right decision. This is the reason why more research and interests are needed to help students entering the pilot training program develop excellent situational awareness from the initial stage of training. Situational awareness is closely related to long-term memory activities in human information processing, and pedagogy and cognitive psychology have emphasized the encoding techniques as an effective long-term memory method. This study was conducted to confirm whether pilot students' using the encoding techniques to learn flight education materials in the early stage of their training at domestic universities has a positive effect on improving their situational awareness.