• 제목/요약/키워드: Transformer modeling

검색결과 182건 처리시간 0.024초

잠재 변수 모델링 기반 잠재 가중치 어텐션 계산을 통한 문맥적 답변 생성 기법 (Generating Contextual Answers Through Latent Weight Attention Calculations based on Latent Variable Modeling)

  • 이종원;조인휘
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.611-614
    • /
    • 2024
  • 최근 많은 분야에서 인공지능을 사용한 산업이 각광을 받고 있고 그중 챗-GPT 로 인하여 챗봇에 관한 관심도가 높아져 관련 연구가 많이 진행되고 있다. 특히 질문에 대한 답변을 생성해주는 분야에 대한 연구가 많이 이루어지고 있는데, 질문-답변의 데이터 셋에 대한 학습 방식보다는 질문-답변-배경지식으로 이루어진 데이터 셋에 대한 학습 방식이 많이 연구가 되고 있다. 그러다 보니 배경지식을 어떤 방식으로 모델에게 이해를 해줄 지가 모델 성능에 큰 부분 차지한다. 그리고 최근 연구에 따르면 이러한 배경지식 정보를 이해시키기 위해 잠재 변수 모델링 기법을 활용하는 것이 높은 성능을 갖는다고 하고 트랜스포머 기반 모델 중 생성 문제에서 강점을 보이는 BART(Bidirectional Auto-Regressive Transformer)[1]도 주로 활용된다고 한다. 본 논문에서는 BART 모델에 잠재 변수 모델링 기법 중 잠재 변수를 어텐션에 곱하는 방식을 이용한 모델을 통해 답변 생성 문제에 관한 해결법을 제시하고 그에 대한 결과로 배경지식 정보를 담은 답변을 보인다. 생성된 답변에 대한 평가는 기존에 사용되는 BLEU 방식과 배경지식을 고려한 방식의 BLEU 로 평가한다.

딥러닝 기반 비디오 캡셔닝의 연구동향 분석 (Analysis of Research Trends in Deep Learning-Based Video Captioning)

  • 려치;이은주;김영수
    • 정보처리학회논문지:소프트웨어 및 데이터공학
    • /
    • 제13권1호
    • /
    • pp.35-49
    • /
    • 2024
  • 컴퓨터 비전과 자연어 처리의 융합의 중요한 결과로서 비디오 캡셔닝은 인공지능 분야의 핵심 연구 방향이다. 이 기술은 비디오 콘텐츠의 자동이해와 언어 표현을 가능하게 함으로써, 컴퓨터가 비디오의 시각적 정보를 텍스트 형태로 변환한다. 본 논문에서는 딥러닝 기반 비디오 캡셔닝의 연구 동향을 초기 분석하여 CNN-RNN 기반 모델, RNN-RNN 기반 모델, Multimodal 기반 모델, 그리고 Transformer 기반 모델이라는 네 가지 주요 범주로 나누어 각각의 비디오 캡셔닝 모델의 개념과 특징 그리고 장단점을 논하였다. 그리고 이 논문은 비디오 캡셔닝 분야에서 일반적으로 자주 사용되는 데이터 집합과 성능 평가방안을 나열하였다. 데이터 세트는 다양한 도메인과 시나리오를 포괄하여 비디오 캡션 모델의 훈련 및 검증을 위한 광범위한 리소스를 제공한다. 모델 성능 평가방안에서는 주요한 평가 지표를 언급하며, 모델의 성능을 다양한 각도에서 평가할 수 있도록 연구자들에게 실질적인 참조를 제공한다. 마지막으로 비디오 캡셔닝에 대한 향후 연구과제로서 실제 응용 프로그램에서의 복잡성을 증가시키는 시간 일관성 유지 및 동적 장면의 정확한 서술과 같이 지속해서 개선해야 할 주요 도전과제와 시간 관계 모델링 및 다중 모달 데이터 통합과 같이 새롭게 연구되어야 하는 과제를 제시하였다.

결합된 자기공명을 통한 무선에너지 전력 전송 시스템의 회로 해석 (Circuit Model Based Analysis of a Wireless Energy Transfer System via Coupled Magnetic Resonances)

  • 전상훈;김용해;이명래;강승열
    • 전력전자학회논문지
    • /
    • 제16권2호
    • /
    • pp.137-144
    • /
    • 2011
  • 자기공명을 이용한 무선 전력 전송 시스템의 등가회로 모델이 제시되었고, 이를 통한 설계기법이 제안되었다. 두개의 코일로 구성된 간단한 트랜스포머의 등가회로를 확장하는 방법으로 본 시스템의 노드 방정식을 세웠고, 이로부터 효율을 높이기 위한 최적의 코일간 거리를 해석하였다. 손실이 있는 경우의 주파수 특성을 계산하기 위해, 상용 설계 시뮬레이터에 등가회로 모델을 심었다. 실제 시스템의 모델 파라미터를 추출하여 시뮬레이션 결과와 측정결과를 비교하였다. 이 해석으로부터, 자기공명 방식의 무선 전력 전송 시스템이 수 미터의 거리까지 높은 효율을 보일 수 있음을 알 수 있었고, 이때 임피던스 정합이 매우 중요하다는 것을 알 수 있었다. 개발된 모델을 통해 공진 코일이 더 많이 있는 경우와 같은, 유사한 시스템의 특성을 예측할 수 있다.

계통연계 풍력발전시스템의 최대출력제어를 위한 신경회로망 제어기에 관한 연구 (Neural Network Controller of A Grid-Connected Wind Energy Conversion System for Maximum Power Extraction)

  • Ro, Kyoung-Soo;Choo, Yeon-Sik
    • 조명전기설비학회논문지
    • /
    • 제18권2호
    • /
    • pp.142-149
    • /
    • 2004
  • 본 논문은 바람으로부터 최대출력을 추출하기 위해 계통연계 풍력발전시스템의 신경회로망 제어기와 추출된 최대출력을 계통에 전달하기 위한 전력제어기를 제안한다. 유도발전기, 변압기, 정류기 및 인버터 등으로 구성된 제어기를 갖춘 풍력발전시스템의 모델링과 시뮬레이션에 대해 검토하고자 한다. 본 논문에서는 동특성해석을 위해 드라이브 트레인 모델, 유도발전기 모델과 계통접속 모델을 제시한다. 신경회로망 제어기는 풍차날개의 피치각을 제어하여 바람으로부터 최대출력을 추출한다. 피치제어방법은 기계적으로 복잡하지만 제어성능은 스톨제어보다 우수하게 된다. MATLAB으로 수행한 시뮬레이션 결과는 발전기 토오크, 발전기 회전속도, 피치각, 계통으로 주입되는 유효/무효전력 등을 예시하고 있으며 그 결과를 보면 제안된 제어기의 효용성을 입증할 수 있다.

Python 기반 WSCR 강건 지수를 이용한 미래계통 구축에 관한 연구 (A Study on Future System Construction Using WSCR Strengthness Index based on Python)

  • 박성준;허진;김현진;조윤성
    • 전기학회논문지
    • /
    • 제67권8호
    • /
    • pp.994-1001
    • /
    • 2018
  • In this paper, to studied about future power system construction using PSS / E-Python API. Python-based future system automatical construction methods and modeling of renewable sources. it confirmed the stability of the powert system for each renewable area by calculating the weighted short circuit ratio (WSCR) index. it calculated the short circuit ratio (SCR) and selected the transmission line linkage scenario to improve the stability of vulnerable areas. it confirmed the WSCR index improvement through the selected transmission line linkage of scenario, and analyzed the stability of the renewable power system applying the scenario. It describes Facts and Shunt devices adjustment for the load flow convergence. It describes the stable methed of the bus voltage through the transformer Ratio Tap adjustment. By performing PSS/E ASCC using the Python it was performed three-phase short circuit fault capacity analysis, it is confirmed whether excess of the fault current circuit breaker capacity. In order to contingency accident analysis, it have described the generation of one or two line list of each areas using the Python. The list is used to contingency analysis and describe the soluted of the transmission line overload through comparison before and after adding the scenario line.

온톨로지와 토픽모델링 기반 다차원 연계 지식맵 서비스 연구 (A Study on Ontology and Topic Modeling-based Multi-dimensional Knowledge Map Services)

  • 정한조
    • 지능정보연구
    • /
    • 제21권4호
    • /
    • pp.79-92
    • /
    • 2015
  • 미래 핵심 가치 기술 발굴 및 탐색을 위해서는 범국가적인 국가R&D정보와 과학기술정보의 연계 융합이 필요하다. 본 논문에서는 국가R&D정보와 과학기술정보를 온톨로지와 토픽모델링을 사용하여 연계 융합하여 지식베이스를 구축한 방법론을 소개하고, 이를 기반으로 한 다차원 연계 지식맵 서비스를 소개한다. 국가R&D정보는 국가R&D과제와 참여인력, 해당 과제에 대한 성과 정보, 논문, 특허, 연구보고서 정보들을 포함한다. 과학기술정보는 논문, 특허, 동향 등의 과학기술연구에 대한 기술 문서를 일컫는다. 본 논문에서는 지식베이스에서의 지식 처리 및 관리의 효율성을 높이기 위해 Lightweight 온톨로지를 사용한다. Lightweight 온톨로지는 국가R&D과제 참여자와 성과정보, 과학기술정보를 과제-성과 관계, 문서-저자 관계, 저자-소속기관 관계 등의 단순한 연관관계를 이용하여 국가R&D정보와 과학기술정보를 융합한다. 이러한 단순한 연관관계만을 이용함으로써 지식 처리의 효율성을 높이고 온톨로지 구축 과정을 자동화한다. 보다 구체적인 Concept 레벨에서의 온톨로지 구축을 위해 토픽모델링을 활용한다. 토픽모델링을 활용하여 국가R&D정보와 과학기술정보 문서들의 토픽 주제어를 추출하고 각 문서 간 연관관계를 추출한다. 일반적인 Concept 레벨에서의 Fully-Specified 온톨로지를 구축하기 위해서는 거의 100% 수동으로 해야 하기 때문에, 많은 시간과 비용이 소모된다. 본 연구에서는 이러한 수동적인 온톨로지 구축이 아닌 자동화된 온톨로지 구축을 위해 토픽모델링을 활용한다. 토픽모델링을 활용하여 온톨로지 구축에 필요한 문서와 토픽 키워드 간의 관계, 문서 간 의미 상 연관관계를 자동으로 추출한다. 마지막으로, 이와 같이 구축된 지식베이스의 트리플(Triple) 정보를 활용하여, 연구자들의 공동저자관계, 문서간의 공통주제어관계 등을 연구자, 주제어, 기관, 저널 등의 다차원 연관관계를 방사형 네트워크 형식을 이용하여 시각화한 지식맵 서비스들을 소개한다.

PSCAD/EMTDC를 이용한 ESS의 누설전류 모델링에 관한 연구 (A Study on Modeling of Leakage Current in ESS Using PSCAD/EMTDC)

  • 김지명;태동현;이일무;임건표;노대석
    • 한국산학기술학회논문지
    • /
    • 제22권2호
    • /
    • pp.810-818
    • /
    • 2021
  • ESS의 누설전류는 PCS(Power Control System)측 누설전류와 계통불평형 전류로 인한 누설전류로 구분되는데, PCS측의 누설전류는 정상 상태 운전 시, IGBT(Insulated Gate Bipolar Transistor) 스위칭의 전압 변화량과 IGBT와 방열판 사이에 존재하는 기생 커패시턴스에 의해 발생한다. 또한, 계통불평형 전류에 의한 누설전류는 불평형 부하로 인해 발생한 불평형 전류가 Yg-∆ 결선방식의 3각 철심이 적용된 태양광전원 연계형 변압기의 중성선을 통해 ESS로 유입된다. 따라서, 본 논문에서는 방열판 유도공식을 통해 산정한 기생 커패시턴스에 의하여 PCS측의 누설전류 발생 메커니즘을 제시하고 또한, 계통불평형에 의한 ESS측의 누설전류 발생 메커니즘을 제안한다. 이를 바탕으로, 배전계통 상용해석 프로그램인 PSCAD/EMTDC를 이용하여 배터리부, PCS부, AC전원부로 이루어진 PCS측의 누설전류 발생 메커니즘과 배전 계통부, 불평형 부하부, ESS부로 이루어진 계통불평형에 의한 ESS측의 누설전류 발생 메커니즘을 모델링하고, 누설전류의 특성을 평가한다. 상기의 모델링을 바탕으로 시뮬레이션을 수행한 결과, 외함의 저항과 접지저항의 크기에 따라 PCS측의 누설전류는 7[mA]에서 34[mA]로, 계통불평형에 의한 배터리 외함으로 흐르는 누설전류는 3.96[mA]에서 10.76[mA]로 증가하여 배터리측에 큰 영향을 미침을 알 수 있었다.

태양광전원이 연계된 고압배전선로의 보호협조 평가 방안에 관한 연구 (Evaluation Method for Protection Coordination of PV Systems Interconnected with Primary Feeders)

  • 김병기;김소희;유경상;노대석
    • 한국융합학회논문지
    • /
    • 제2권4호
    • /
    • pp.29-37
    • /
    • 2011
  • 종래의 배전계통에 있어서의 전력조류는 변전소에서 선로말단을 향한 단 방향이었지만, 신에너지전원(분산전원)이 연계된 배전계통의 경우에는 그 출력용량의 여부에 따라 양방향의 전력조류가 발생할 가능성이 있어, 계통운용상 여러 가지의 문제점이 야기될 수 있다. 분산전원은 대규모전원의 보완적 역할과 배전선로 상의 국부적 부하 감당 역할을 부과하여 그의 적극적 활용을 꾀하기 위해서는, 분산전원으로부터 배전계통에 전력을 공급하는 역 조류의 기능을 허용할 수 있는 양방향 보호협조방식의 체제를 확립할 필요가 있다. 따라서 본 연구에서는 분산전원 연계에 따른 보호협조 기본 방안과 부하절체 운전에 따른 보호협조 방안, 변압기결선에 따른 보호협조 방안 등에 대한 알고리즘을 제시하였다. 또한, 이론적인 계산법(대칭좌표법)과 MATLAB/SIMULINK에 의하여 실 계통에서의 양방향 보호협조에 관련된 문제점을 분석하고, 해결방안을 제시하였다.

풍력발전(DFIG)의 고압배전선로의 사고특성 해석에 관한 연구 (A Study on Fault Characteristics of Wind Power in Distribution Feeders)

  • 김소희;김병기;노대석
    • 한국산학기술학회논문지
    • /
    • 제13권3호
    • /
    • pp.1288-1295
    • /
    • 2012
  • 2008년도 지식경제부의 전망에 의하면 신재생에너지전원 중 풍력발전의 보급전망은 2020년 37%, 2030년 42%에 달하고, 2012년부터 시행 예정인 신재생에너지 의무할당제(Renewable Portfolio Standard-RPS)의 도입으로 태양광 및 풍력 등의 신재생에너지가 향후 지속적으로 배전계통에 연계 운용될 것으로 예상된다. 현재 풍력은 배전계통에 전용선로로 연계되어 계통에 미치는 영향은 미미하지만, 3[MW] 이상의 대규모 풍력발전이 일반 배전선로로 확대 운용되면, 풍력발전 연계용 변압기 및 풍력발전기의 %임피던스에 의한 사고전류 변동으로 보호계전기(OCR, OCGR)의 오 부동작을 야기할 수 있다. 따라서 본 논문에서는 대표적인 풍력발전기인 이중여자유도발전기(Double-Fed Induction Generator-DFIG)가 고압 배전선로에 연계되어 운전되는 경우, 3상단락, 2선단락 및 1선지락의 사고특성을 분석하기 위하여, 전력계통 상용소프트웨어인 PSCAD/EMTDC를 이용하여 풍력발전기의 모델링과 시뮬레이션을 수행하고, 대칭좌표법을 통한 이론적인 수치해석의 결과치를 비교/분석하여, 제안한 수법의 유용성을 확인하였다.

PSCAD/EMTDC를 이용한 풍력발전의 배전계통 사고특성에 관한 연구 (A Study on Fault Characteristics of DFIG in Distribution Systems Based on the PSCAD/EMTDC)

  • 손준호;김병기;전진택;노대석
    • 한국융합학회논문지
    • /
    • 제2권2호
    • /
    • pp.47-56
    • /
    • 2011
  • 2008년도 지식경제부의 전망에 의하면 신재생에너지전원 중 풍력발전의 보급전망은 2020년 37%, 2030년 42%에 달하고, 2012년부터 시행 예정인 신재생에너지 의무할당제(Renewable Portfolio Standard-RPS)의 도입으로 태양광 및 풍력 등의 신재생에너지가 향후 지속적으로 배전계통에 연계 운용될 것으로 예상된다. 현재 풍력은 배전계통에 전용선로로 연계되어 계통에 미치는 영향은 미미하지만, 3[MW] 이상의 대규모 풍력발전이 일반 배전선로로 확대 운용되면, 풍력발전 연계용 변압기 및 풍력발전기의 %임피던스에 의한 사고전류 변동으로 보호계전기(OCR, OCGR)의 오 부동작을 야기할 수 있다. 따라서 본 논문에서는 대표적인 풍력발전기인 이중여자유도발전기(Double-Fed Induction Generator-DFIG)가 고압 배전선로에 연계되어 운전되는 경우, 3상단락, 2선단락 및 1선지락의 사고특성을 분석하기 위하여, 전력계통 상용소프트웨어인 PSCAD/EMTDC를 이용하여 풍력발전기의 모델링과 시뮬레이션을 수행하고, 대칭좌표법을 통한 이론적인 수치해석의 결과치를 비교/분석하여, 제안한 수법의 유용성을 확인하였다.