• 제목/요약/키워드: 매개변수 조정

검색결과 178건 처리시간 0.031초

MAdapter: 효율적인 중간 층 도입을 통한 Adapter 구조 개선 (MAdapter: A Refinement of Adapters by Augmenting Efficient Middle Layers)

  • 김진현;김태욱
    • 한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리)
    • /
    • 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
    • /
    • pp.517-521
    • /
    • 2023
  • 최근 거대 언어모델의 등장과 동시에, 많은 매개변수를 효과적으로 학습하는 방법인 효율적인 매개변수 미세조정(Parameter Efficient Fine-Tuning) 연구가 활발히 진행되고 있다. 이 중에서 Adapter는 사전학습 언어모델(Pretrained Language Models)에 몇 개의 추가 병목 구조 모듈을 삽입하여 이를 학습하는 방식으로, 등장한 이후 다양한 연구 영역에서 주목받고 있다. 그러나 몇몇 연구에서는 병목 차원을 증가시켜 미세 조정보다 더 나은 성능을 얻는다는 주장이 나오면서, 원래의 의도와는 다른 방향으로 발전하고 있다는 의견도 있다. 이러한 맥락에서, 본 연구에서는 기존의 Adapter 구조를 개선한 MAdapter를 제안한다. MAdapter는 본래 Adapter에 중간 층을 추가하되 학습 가능한 매개변수의 수는 오히려 줄이는 방법으로, 전체 매개변수 수 대비 1% 내외 만을 학습에 활용하며, Adapter 대비 절반 정도의 매개변수만을 사용하여 기존 결과와 비슷하거나 더 나은 성능을 얻을 수 있는 것을 확인할 수 있다. 또한, 병목차원 크기 비교와 중간 층 개수 분석을 통한 최적의 MAdapter 구조를 찾고, 이로써 효율적인 매개변수 미세조정 방법을 제시한다.

  • PDF

개선된 산 클러스터링 방법 (Advanced Mountain Clustering Method)

  • 이중우;손세호;권순학
    • 한국지능시스템학회논문지
    • /
    • 제11권1호
    • /
    • pp.1-8
    • /
    • 2001
  • 본 논문에서는 정규화된 데이터 공간과 가우스함수에 의한 산 함수 형성 그리고 형성된 산의 기울기를 이용한 산봉우리 붕괴를 특징으로 하는 개선된 산 클러스터링 방법을 제안한다. 이 개선된 방법은 기존의 Yager 등에 의하여 제안된 방법이 조정해야 하는 매개변수가 3개이고 발견된 클러스터 중심 주위에 원치 않는 다른 중심이 발생할 수 있는데 반하여 단지 하나의 매개변수 $\omega$의 조정으로 더욱 타당한 중심을 찾아내는 점에서 유용하다 할 수 있다. 또한 매개변수 $\omega$에 대한 적절한 선정 방법을 제시하고, 수치 자료에 대한 컴퓨터 모의실험을 통하여 개선된 산 클러스터링 방법의 유용성을 입증한다.

  • PDF

확률론적 지진해일 재해도 분석(PTHA)을 위한 단층 파라미터에 대한 지진해일의 민감도 분석 (Study of tsunami sensitivity analysis to fault parameters for probabilistic tsunami hazard analysis)

  • 정현기;김병호;조용식
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2021년도 학술발표회
    • /
    • pp.217-217
    • /
    • 2021
  • 우리나라 동해 연안에 영향을 미쳤던 역사지진들과 일본에서 진행된 동해에서의 대규모지진에 관한 조사검토회에서 2014년에 보고된 동해 동연부와 남해 남연부 측에 있는 60개의 지진공백역들에 대한 단층매개변수들이 공개되어있어 수치실험을 통해 지진해일의 재해도를 분석하고 있다. 하지만 이러한 단층매개변수 값들에 대한 불확실성이 존재하기에 이를 대비한 지진해일 대책을 세울 필요가 있다. 단층매개변수의 불확실성을 고려하는 방법 중 한 가지는 해당 변수들을 조정하여 Case 모델들을 다양화하는 것이다. 이 때 매개변수의 변동에 대한 기준이 필요하기에 단층매개변수에 대한 민감도 분석이 진행되어야 한다. 본 연구의 최종목표는 지진해일에 대한 위험성에 대비하기 위해 선정된 연구지역에 대하여 단층매개변수들을 조정한 경우별 모델들을 사용한 수치모형 실험을 실행한 후 도출된 지진해일 처오름높이 및 처내림높이 결과를 분석하여 각 단층매개 변수의 지진해일에 대한 민감도를 결정하는 것이며, 최종적으로 확률론적 지진해일 재해도분석(Probabilistic Tsunami Hazard Analysys : PTHA)을 실시할 때 기준이 되는 로직트리를 작성할 때 명확한 근거를 제시한다. 단층매개변수의 민감도 분석은 일본(Goda et al., 2014), 미국(Sepúlveda and Liu, 2016), 뉴질랜드(D. Burbridge et al., 2015) 등에서 연구가 활발하게 이루어졌으며 현재도 활발한 연구가 진행되고 있다. 민감도 분석 과정은 먼저 역사 지진해일과 우리나라 근해에 영향을 미칠 수 있는 지진해일의 단층매개변수 조사한 후 파향선추적모형(wave ray-tracing)의 결과를 정리하여 대상 지역에 영향을 미치는 단층을 선정하고, 선정한 단층들의 단층매개변수 값을 일정한 기준을 두고 조정하여 실시한 지진해일 수치모형 실험에서 계산한 결과값을 분석하여 민감도를 결정한다.

  • PDF

소규모유역 첨두홍수량 산정시 적용된 매개변수 사례 연구 (A Case Study on the Parameters Applied to the Estimation of the Peak Flood in a Small Watershed)

  • 송진근;정재성
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.380-380
    • /
    • 2023
  • 기후변화와 도시화에 따른 개발사업으로 인하여 재해 위험성은 날로 증가하고 있다. 이로 인한 재해의 영향을 최소화하기 위해 각종 개발사업 시 자연재해대책법에 따라 사전에 자연재해에 따른 피해를 예방하기 위한 목적으로 재해영향평가 협의가 시행되고 있다. 재해영향평가 협의에서 홍수로 인한 재해예방을 위해 개발사업으로 인한 홍수유출 증가량 검토하고 저감 대책을 제시하게 된다. 이중 소규모 재해영향평가는 면적 5천m2 이상 5만m2 미만의 개발사업을 대상으로 실시되고 있으며, 이를 위한 첨두홍수량 산정 방법으로는 합리식, clark단위도법 등이 사용되고 있다. 소규모 유역의 첨두홍수량을 합리식, 단위도법 등으로 산정할 경우 도달시간이 매우 짧아 홍수량이 과다하게 산정된다. 이를 방지하기 위해 합리식에서는 강우지속기간을 늘리기 위해 일정 유입시간을 고려하고 있으며, 단위도법에서는 유역반응시간을 조정하고 있다. 기존의 연구에서 clark단위도법에서 저류상수 매개변수 보정을 7 ~ 10분으로 적용하도록 하고 있다. 본 연구에서는 화성, 양주, 청주지역의 소규모 재해영향평가협의 대상인 공장부지 조성사업의 홍수량 산정시 저류상수 매개변수 조정 사례를 조사하고 그 중 유역의 상황변화를 고려하지 않고 개발 후 매개변수 조정을 10분으로 적용한 10개 사업을 대상으로 선정하였다. 본 연구에서는 개발 후 매개변수 보정량을 10분을 7분으로 변경하여 홍수량을 산정하였다. 10개 사업 홍수량 산정결과 「재해영향평가등의 협의 실무지침 (2021.01, 행정안전부)」에서 제시하는 소유역 비홍수량의 범위인 25 ~ 35m3/s/km2에 8개 사업이 만족되었고, 2개 사업은 개발 후 비홍수량이 제시 범위를 다소 초과하였고, 홍수량의 증가는 4.7 ~ 16.3% 범위로 나타났다. 소규모 유역에서 저류상수 보정량이 홍수량 산정에 미치는 영향이 큰것을 감안하면 유역의 도시화등 상태변화 비율 및 소유역 면적별로 매개변수 조정량을 정량화하는 추가 연구가 필요하다.

  • PDF

중학생들의 매개변수개념 분석과 교수-학습방안 탐색 (The Analysis of Students' Conceptions of Parameter and Development of Teaching-Learning Model)

  • 이종희;김부미
    • 대한수학교육학회지:학교수학
    • /
    • 제5권4호
    • /
    • pp.477-506
    • /
    • 2003
  • 본 연구는 중학교 3학년 학생들이 문자와 식, 방정식, 함수에 대한 문제 해결과정에서 미지수, 변수, 매개변수로 사용되는 문자의 의미를 어떻게 이해하고 있는지를 살펴봄으로써, 매개변수로서 문자가 이해되는 과정을 분석한다. 그리고 학생들이 문제를 해결할 때 매개변수로서의 문자의 의미를 이해하면서 유연하게 변환할 수 있도록 메타인지 사고전략을 활용한 수업 설계 모형인 '자기질문에 의한 자기조정형 수업모형을 제안한다. 분석결과, 학생들은 문제의 문맥에서 매개변수의 역할을 미지수, 변수의 역할과 비교해 볼 때 매개변수는 상수를 대신하는 문자로 인식하는 경향이 강했으며, 주어진 방정식의 매개변수였던 문자는 구문론적 조작을 거치면서 변수나 미지수의 역할로 변환하는 경우에 그 의미와 역할을 불확실하게 이해하고 있었다. 그리고, 문맥상 매개변수의 의미를 파악하여 생각하기보다는 문맥의 전후관계를 살피지 않고 연산과 기호조작을 이용하여 파악하는 경향이 강했으며, 직선의 그래프로 제시했을 때 학생들은 매개변수의 의미를 좌표평면 상에서 직선의 위치를 결정하는 요소로서 해석하는 능력이 부족하였다.

  • PDF

Penman-Monteith 잠재증발산과의 보완관계 비교검증을 통한 Hargreaves식의 매개변수 추정 (Parameter estimation of Hargreaves equation through a comparison of complementary relationship with PET from the Penman-Monteith equation)

  • 김지훈;강부식
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2016년도 학술발표회
    • /
    • pp.225-225
    • /
    • 2016
  • 잠재증발량에 대한 많은 경험식들이 제시되어 있지만 각각의 방식에 대한 국내의 적용성에 대하여 구체적으로 비교검토된 사례는 매우 제한적이다. 널리사용되고 있는 Hargreaves식은 비교적 단순한 형태를 지니고 있으나 대기수분량을 계산에 반영치 못하는 한계를 지니고 있다. 본 연구에서는 남한 내 다목적 댐 유역의 1973-2014년 기상자료를 바탕으로 Penman-Monteith (P-M) 식과 Hargreaves식을 통해 계산한 잠재증발산량($ET_{PM}$, $ET_{Harg}$)의 비교를 통해, Bouchet (1963)의 보완 관계 관점에서 $ET_{Harg}$$ET_{PM}$에 비해 과다 산정되는 경향이 있음을 확인하였다. 이에, 1973-2004년에 대한 각 댐 유역의 기상관측소 단위별로 산정된 $ET_{PM}$을 상대적인 정해로 간주하여 Hargreaves식의 매개변수를 추정하였다. 추정된 매개변수는 동일 관측소의 2005-2014년 기상자료와 함께 Hargreaves식에 적용 후, 다목적 댐 유역별 $ET_{PM}$$ET_{Harg}$을 산정하여 검정을 수행하였다. 수행 결과, Hargreaves 식의 매개변수 조정 전 $ET_{PM}$과의 Nash-Sutcliffe 일치계수는 0.47-0.79 (1973-2004), 0.28-0.76 (2005-2014)이었고, RMS 오차는 17.79-25.85 (1973-2004), 18.24-27.40 (2005년-2014년)이었으나, 매개변수 조정 후 Nash-Sutcliffe 일치계수는 0.96-0.98 (1973-2004), 0.95-0.98 (2005-2014)로, RMS 오차는 5.78-7.11 (1973-2004), 4.97-6.95 (2005-2014)로 조정 전 보다 향상된 결과를 보였다.

  • PDF

OLS 및 변수선택법에 의한 다중선형회귀모형 매개변수 산정 (Parameter Estimation for Multiple Linear Regession Model by OLS and Stepwise)

  • 김경탁;김주훈;박정술
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2006년도 학술발표회 논문집
    • /
    • pp.1161-1165
    • /
    • 2006
  • 본 연구는 OLS 및 변수선택법에 의해 통계학적 모형의 매개변수를 산정하여 모형의 적용성을 입증하고 하천 주요지점에 대한 홍수위 예측을 통해 홍수예보 및 예측 업무에 기여코자하는데 연구목적이 있다. 다중선형회귀모형을 구성하기 위한 독립변수는 예보지점의 수위/유출량 자료와 상류지점의 수위/유출량 자료, 그리고 유역의 선행 평균강우량 등의 자료를 독립변수로 하여 통계학적 홍수예측을 위한 다중선형 회귀모형을 각각 구성하여 적합성 여부를 판단하였다. 매개변수 산정은 OLS(Ordinary least square root method)와 변수선택(Stepwise)방법에 의해 산정하였으며, 중랑천 유역의 2002년부터 2005년까지의 수문사상 16개를 선정하여 모형에 적용한 결과 두 매개변수 산정방법 모두 30분에서 90분 예측은 상대적으로 정확한 결과를 나타내었으며, OLS 및 변수선택법에 의한 매개변수 산정결과 변수선택법에 의한 방법이 OLS 방법보다는 상관성이나 효율지수면에서 조금 더 정확한 값을 나타내고 있으나 독립변수의 일관성을 감안한다면 변수선택법보다는 OLS방법에 의한 매개변수 산정이 타당할 것으로 사료된다. 기존의 홍수예보 업무에 활용되고 있는 수문학적 홍수예측 모형인 저류함수법의 여러 매개변수 조정에 의한 홍수위 예측 방법보다는 비교적 간단한 통계적 방법에 의한 홍수위 예측 방법으로 홍수예보의 선행시간 확보가 필수적인 중랑천과 같이 유역면적이 작은 중소하천에서의 홍수예보 업무에 효과적으로 이용 가능할 것으로 사료된다.

  • PDF

Back-off 파라미터 설정을 통한 IEEE 802.11 무선 네트워크에서의 QoS 보장 (QoS in IEEE 802.11 Wireless Networks using Back-off Parameter Selecting)

  • 문정아;이상규
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 2005년도 가을 학술발표논문집 Vol.32 No.2 (1)
    • /
    • pp.412-414
    • /
    • 2005
  • 무선 랜 표준인 IEEE 802.11은 원래 best effort service를 위해 탄생된 기술이기 때문에 QoS(Quality of Service)에 대한 연구가 부족했다. 무선 랜에서는 기존 유선 랜보다 한정된 자원과 희박한 bandwidth, 다양한 노드들의 채널 공유로 인해 QoS를 보장하기가 어렵다. 이를 보완하기 위한 연구가 IEEE 802.11e 워킹그룹에서 진행되고 있다. 본 논문에서는 충돌방지를 위한 CSMA/CA 알고리즘의 back-off값 설정을 매개변수를 두어 idle 시간을 조정함으로써 QoS를 보장하는 알고리즘을 제안한다. 특히, QoS가 요구하는 패킷전달 간격 임계값(threshold)에 따른 매개변수를 조절하여 contention window 크기를 달리 조정함으로써 QoS를 요구하는 노드들의 수에 상관없이 균일한 서비스 성능을 유지하도록 한다. 이 때, 매개변수 값의 선택은 QoS를 제공하는 노드들의 서비스 성능 뿐 아니라 best effort service만을 제공해도 되는 일반 노드들의 서비스 성능도 함께 고려할 수 있도록 하였다.

  • PDF

DAKS: 도메인 적응 기반 효율적인 매개변수 학습이 가능한 한국어 문장 분류 프레임워크 (DAKS: A Korean Sentence Classification Framework with Efficient Parameter Learning based on Domain Adaptation)

  • 김재민;채동규
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2023년도 춘계학술발표대회
    • /
    • pp.678-680
    • /
    • 2023
  • 본 논문은 정확하면서도 효율적인 한국어 문장 분류 기법에 대해서 논의한다. 최근 자연어처리 분야에서 사전 학습된 언어 모델(Pre-trained Language Models, PLM)은 미세조정(fine-tuning)을 통해 문장 분류 하위 작업(downstream task)에서 성공적인 결과를 보여주고 있다. 하지만, 이러한 미세조정은 하위 작업이 바뀔 때마다 사전 학습된 언어 모델의 전체 매개변수(model parameters)를 학습해야 한다는 단점을 갖고 있다. 본 논문에서는 이러한 문제를 해결할 수 있도록 도메인 적응기(domain adapter)를 활용한 한국어 문장 분류 프레임워크인 DAKS(Domain Adaptation-based Korean Sentence classification framework)를 제안한다. 해당 프레임워크는 학습되는 매개변수의 규모를 크게 줄임으로써 효율적인 성능을 보였다. 또한 문장 분류를 위한 특징(feature)으로써 한국어 사전학습 모델(KLUE-RoBERTa)의 다양한 은닉 계층 별 은닉 상태(hidden states)를 활용하였을 때 결과를 비교 분석하고 가장 적합한 은닉 계층을 제시한다.

이동통신 환경에서 다중신호의 DOA 추정과 적응 빔성형 (DOA Estimation of Multiple Signal and Adaptive Beam-forming for Mobile Communication Environments)

  • 양두영;이민수
    • 한국콘텐츠학회논문지
    • /
    • 제10권12호
    • /
    • pp.34-42
    • /
    • 2010
  • 이동통신 환경에서 매개변수와 비매개변수추정 알고리즘을 토대로 DOA와 적응 빔성형 알고리즘을 연구하고 분석하였다. 매개변수추정 알고리즘에서는 배열안테나로 수신된 신호의 상관행렬로부터 신호성분과 잡음성분에 대한 고유치를 구하고, 그 고유치들로부터 전력스펙트럼을 판별하였다. 반면에 비매개변수추정 알고리즘에서는 입사각의 함수로써 신호에너지를 추정하기 위하여 고분해능과 잡음억압을 도출하도록 비이차놈을 사용하여 규칙화 목적함수를 최소화하였다. 그리고 나서, 신호와 잡음공간 조정벡터로부터 DOA를 추정하였고, 공간벡터에 의하여 도출된 가중치를 적용하여 적응 빔성형 패턴을 개선하였다. 따라서 희소강제조정을 갖는 개선된 방향성 추정 알고리즘은 다른 알고리즘들과 비교하여 잡음 억제와 고분해능을 갖는다.