• 제목/요약/키워드: 변수 가중치

검색결과 366건 처리시간 0.023초

잠재 변수 모델링 기반 잠재 가중치 어텐션 계산을 통한 문맥적 답변 생성 기법 (Generating Contextual Answers Through Latent Weight Attention Calculations based on Latent Variable Modeling)

  • 이종원;조인휘
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2024년도 춘계학술발표대회
    • /
    • pp.611-614
    • /
    • 2024
  • 최근 많은 분야에서 인공지능을 사용한 산업이 각광을 받고 있고 그중 챗-GPT 로 인하여 챗봇에 관한 관심도가 높아져 관련 연구가 많이 진행되고 있다. 특히 질문에 대한 답변을 생성해주는 분야에 대한 연구가 많이 이루어지고 있는데, 질문-답변의 데이터 셋에 대한 학습 방식보다는 질문-답변-배경지식으로 이루어진 데이터 셋에 대한 학습 방식이 많이 연구가 되고 있다. 그러다 보니 배경지식을 어떤 방식으로 모델에게 이해를 해줄 지가 모델 성능에 큰 부분 차지한다. 그리고 최근 연구에 따르면 이러한 배경지식 정보를 이해시키기 위해 잠재 변수 모델링 기법을 활용하는 것이 높은 성능을 갖는다고 하고 트랜스포머 기반 모델 중 생성 문제에서 강점을 보이는 BART(Bidirectional Auto-Regressive Transformer)[1]도 주로 활용된다고 한다. 본 논문에서는 BART 모델에 잠재 변수 모델링 기법 중 잠재 변수를 어텐션에 곱하는 방식을 이용한 모델을 통해 답변 생성 문제에 관한 해결법을 제시하고 그에 대한 결과로 배경지식 정보를 담은 답변을 보인다. 생성된 답변에 대한 평가는 기존에 사용되는 BLEU 방식과 배경지식을 고려한 방식의 BLEU 로 평가한다.

Markov 확률 모델을 이용한 저전력 상태 할당 알고리즘 (FSM state assignment for low power dissipation based on Markov chain model)

  • 김종수
    • 대한전자공학회논문지SD
    • /
    • 제38권2호
    • /
    • pp.51-51
    • /
    • 2001
  • 본 논문은 디지털 순서회로 설계시 상태할당 알고리즘 개발에 관한 연구로, 동적 소비전력을 감소시키기 위하여 상태변수의 변화를 최소로 하는 코드를 할당하여 상태코드가 변화하는 스위칭횟수를 줄이도록 하였다. 상태를 할당하는데는 Markov의 확률함수를 이용하여 hamming거리가 최소가 되도록 상태 천이도에서 각 상태를 연결하는 edge에 weight를 정의한 다음, 가중치를 이용하여 각 상태들간의 연결성을 고려하여 인접한 상태들간에는 가능한 적은 비트 천이를 가지도륵 모든 상태를 반복적으로 찾아 계산하였다. 비트 천이의 정도를 나타내기 위하여 cost 함수로 계산한 결과 순서회로의 종류에 따라 Lakshmikant의 알고리즘보다 최고 57.42%를 감소시킬 수 있었다.

액세스 패턴을 이용한 프락시 캐싱 (Proxy Caching using Access Patterns)

  • 임재현;이준연
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2000년도 제13회 춘계학술대회 및 임시총회 학술발표 논문집
    • /
    • pp.586-590
    • /
    • 2000
  • 웹 프락시 통신량 특성은 캐싱, 용량 설계 및 모의 실험 연구에 영향을 미치는 매개 변수를 인식하는데 도움을 준다. 본 논문에서는 프락시 서버에 나타나는 통신량을 추적하여 사용자의 액세스 패턴을 분석하고 그에 따른 캐싱 모델을 수립하였다. 적중률과 가중치 적중률을 평가한 결과 캐싱의 유용성을 개선하였다.

  • PDF

코퍼스 기반의 립싱크 알고리즘 개발 (Development of a lipsync algorithm based on A/V corpus)

  • 하영민;김진영;정수경
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2000년도 제13회 신호처리 합동 학술대회 논문집
    • /
    • pp.145-148
    • /
    • 2000
  • 이 논문에서는 2차원 얼굴 좌표데이터를 합성하기 위한 음성과 영상 동기화 알고리즘을 제안한다. 영상변수의 획득을 위해 화자의 얼굴에 부착된 표시를 추적함으로써 영상변수를 획득하였고, 음소정보뿐만 아니라 운율정보들과의 영상과의 상관관계를 분석하였으며 합성단위로 시각소에 기반한 코퍼스를 선택하고, 주변의 음운환경도 함께 고려하여 연음현상을 모델링하였다. 입력된 코퍼스에 해당되는 패턴들을 lookup table에서 선택하여 주변음소에 대해 기준패턴과의 음운거리를 계산하고 음성파일에서 운율정보들을 추출해 운율거리를 계산한 후 가중치를 주어 패턴과의 거리를 얻는다. 이중가장 근접한 다섯개의 패턴들의 연결부분에 대해 Viterbi Search를 수행하여 최적의 경로를 선택하고 주성분분석된 영상정보를 복구하고 시간정보를 조절한다.

  • PDF

기업도산예측을 위한 이진분류기법의 개발 (Developing a Binary Classification Method for Bankruptcy Prediction)

  • 민재형;정철우
    • 한국경영정보학회:학술대회논문집
    • /
    • 한국경영정보학회 2007년도 International Conference
    • /
    • pp.619-624
    • /
    • 2007
  • 본 연구는 유전 알고리듬에 기반한 새로운 도산예측기법을 개발하고 그 기법의 타당성 및 예측 우수성을 검증하는데 목적이 있다. 본 연구에서 제안하는 이진분류기법은 도산기업과 비도산기업을 대표할 수 있는 가상기업(virtual company)을 설정하고, 그 가상기업과 분류대상 기업 간의 유사도를 측정하여 도산여부를 분류하는 방법론으로, 가상기업의 변수 값과 각 변수의 가중치는 훈련용 자료의 분류정확도를 극대화할 수 있도록 유전 알고리듬을 이용하여 구하게 된다. 본 연구에서 제안하는 기법의 타당성을 검증하기 위해 기존의 도산예측기법과 예측성과를 실험을 통해 비교한 결과, 본 연구에서 개발한 기법의 예측력이 기존의 다변량판별분석, 로지스틱 회귀모형, 의사결정나무, 인공신경망 모형보다 높은 수준을 보이는 것을 확인하였다.

  • PDF

학습자 중심의 수준별 학습을 위한 웹기반 지능형 교수 시스템 (A Web-based Intelligent Tutoring System for Learner-centered learning by Level)

  • 양형정;최숙영
    • 한국산업정보학회:학술대회논문집
    • /
    • 한국산업정보학회 2002년도 춘계학술대회 논문집
    • /
    • pp.248-259
    • /
    • 2002
  • 최근의 새로운 교수 학습 형태인 웹기반 교육에서의 가장 중요한 요소는 시.공간적으로 떨어져 있는 학습자의 학습 상황을 파악하고 분석하여, 학습자에게 적절한 학습내용과 과정을 제시하는 하는 것이 무엇보다도 중요하다. 본 연구에서는 웹기반 교수 시스템에서 학습자의 수준에 맞는 적합한 학습 내용과 평가 문제를 제공하고, 그 평가 결과를 분석하여 반복학습 및 심화학습을 효과적으로 제공하고, 차기 학습을 할 경우에 이에 기초하여 적절한 학습이 이루어질 수 있도록 한다. 이를 위해 코스웨어를 설계시 학습목표의 중요도, 학습내용의 난이도, 학습목표와 학습내용과의 관련성과 각 항목의 가중치를 고려한 퍼지 함수에 의해 퍼지 소속성을 가진 퍼지 언어 변수로 각 프레임에 대한 수준을 표현한다. 또한, 학습의 평가도 문제의 난이도, 관련학습 자료의 난이도, 관련 학습목표의 중요도, 각각의 관련성을 고려하여 퍼지 함수에 의해 언어 변수로 평가된다. 이와 같이 퍼지 함수를 이용함으로써 학습자의 수준을 분석하고, 이에 적절한 학습 및 평가 내용을 제공하는데 여러가지 다양하고 불확실한 요소들을 고려하여 처리함으로써 보다 융통성 있고 효과적인 교수 학습 방법이 될 수 있다.

  • PDF

신경망을 이용한 고신뢰성의 회귀분석 모델 (Regression Model With High Reliability by Using Neural Networks)

  • 조용현
    • 정보처리학회논문지B
    • /
    • 제8B권4호
    • /
    • pp.327-334
    • /
    • 2001
  • 본 논문에서는 기울기하강과 동적터널링이 조합된 학습알고리즘의 다층신경망을 이용한 고신회성의 회귀분석 모델을 제안하였다. 기울기하강은 빠른 수렴속도의 최적화가 가능하도록 하기 위함이고, 동적터널링은 국소최적해를 만났을 때 이를 벗어난 새로운 연결가중치를 설정하여 전역최적해로 수렴되도록 하기 위함이다. 또한 대용량의 입력 데이터를 통계적으로 독립인 특징들의 집합으로 변환시키는 주요성분분석 기법의 속성을 살려 학습데이터의 차원을 감소시킴으로서 고차원의 학습데이터에 따른 회귀분석 모델의 제약도 동시에 해결하였다. 제안된 기법의 신경망을 3개의 독립변수 패턴을 가진 암모니아 제조공정문제와 10개의 독립변수 패턴을 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 기존의 역전과 알고리즘의 신경망이나 주요성분분석에 의한 차원을 감소시키지 않은 학습패턴을 이용한 신경망보다 각각 더욱 우수한 학습성능과 회귀성능이 있음을 확인할 수 있었다. 또한 학습패턴의 영평균 정규화로 회귀용 신경망의 성능을 더욱 더 개선하였다.

  • PDF

개발도상국 해외직접투자 유치 입지결정요인 (Locational Determinants of FDI in Developing Countries)

  • 유승훈
    • 경영과정보연구
    • /
    • 제32권5호
    • /
    • pp.1-18
    • /
    • 2013
  • 본 연구에서는 개발도상국 해외투자 입지 결정요인을 실증 분석하였다. 분석의 결과 입지요인인 피투자국 시장규모, 경제 발전 정도, 경제성장율, 인적자본의 질, 경제의 개방도, 현지시장 매력요인의 대위변수인 현재 외국인 투자 유치액등은 해외투자 유치에 정의 영향을 미치는 요인으로 나타났다. 수정된 중력 모형에서 중 요변수인 피투자국의 모든 투자국들로 부터의 상대적인 시장가중치를 감안한 원격성은 낮을수록 해외투자 유치가 활발한 것으로 나타나고 있어 거래비용이나 현지시장 친숙도가 중요한 해외투자 고려 요인임을 알 수 있었다.

  • PDF

퍼지엔트로피를 이용한 비선형신호의 해석 (The Analysis of Nonlinear Signal using Fuzzy Entropy)

  • 박인규;황상문;김남호
    • 한국감성과학회:학술대회논문집
    • /
    • 한국감성과학회 1999년도 추계학술대회 논문집
    • /
    • pp.388-395
    • /
    • 1999
  • 본 논문의 목적은 퍼지 엔트로피를 이용하여 비선형신호를 예측하는 것이다. 이 방법은 분할된 여러 부 공간(subspace)에 대해 입력 데이터로부터 퍼지 엔트로피를 이용하여 각각의 규칙에 등급을 정하여 불필요한 제어규칙을 제거하여 바람직한 규칙베이스를 구성하도록 한 것이다. 적용되는 퍼지 신경망의 기본적인 구조는 퍼지 제어기의 규칙베이스와 추론의 과정을 신경회로망을 이용하여 구현하며 퍼지 제어규칙의 매개변수들은 역전파 알고리즘에 의해 적응되어진다. 또한 매개변수의 수를 줄이기 위하여 제어규칙의 결론부의 출력값은 신경망의 가중치로 구성하였다. 결국 퍼지 신경망의 복잡도를 줄일 수 있다. Mackey-Glass 시계열의 예측에 대한 컴퓨터 시뮬레이션을 통하여 본 논문에서 제안한 방법의 효율성을 입증하고, 제안된 방법을 EEG 생리신호 분석에 이용될 수 있다.

  • PDF

통합 연결강도모형에 의한 부도예측용 인공신경망 모형 입력노드 선정에 관한 연구 (Selection of Input Nodes in Artificial Neural Network for Bankruptcy Prediction by Integrated Link Weight Analysis)

  • 이웅규
    • 한국지능정보시스템학회:학술대회논문집
    • /
    • 한국지능정보시스템학회 2001년도 춘계정기학술대회
    • /
    • pp.359-368
    • /
    • 2001
  • 본 연구에서는 부도예측용 인공신경망의 입력노드 선정을 위한 휴리스틱으로 연결강도분석 접근법을 제안한다. 연결강도분석은 학습이 끝난 인공신경망에서 입력노드와 은닉노드와 연결된 가중치의 절대값 즉, 연결강도를 분석하여 입력변수를 선정하는 접근법으로, 본 연구에서는 약체연결뉴론제거법, 강체연결뉴론선택법 그리고 이 두 기법을 통합한 통합 연결강도 모형을 제안하여 각각 의사결정 트리 및 다변량판별분석에 의해 선정된 입력변수를 이용한 인공신경망 모형과 예측율을 비교한다. 실험 결과 본 연구에서 제안하고 있는 방법론이 의사결정트리나 다다변량판별분석 기법 보다 높은 예측율을 보여 주었다. 특히 두 기법의 통합연결강도 모형의 경우에는 다른 단일 기법보다 높은 예측율을 보이고 있다.

  • PDF