• Annual Conference on Human and Language Technology
• /
• 2023.10a
• /
• pp.517-521
• /
• 2023

최근 거대 언어모델의 등장과 동시에, 많은 매개변수를 효과적으로 학습하는 방법인 효율적인 매개변수 미세조정(Parameter Efficient Fine-Tuning) 연구가 활발히 진행되고 있다. 이 중에서 Adapter는 사전학습 언어모델(Pretrained Language Models)에 몇 개의 추가 병목 구조 모듈을 삽입하여 이를 학습하는 방식으로, 등장한 이후 다양한 연구 영역에서 주목받고 있다. 그러나 몇몇 연구에서는 병목 차원을 증가시켜 미세 조정보다 더 나은 성능을 얻는다는 주장이 나오면서, 원래의 의도와는 다른 방향으로 발전하고 있다는 의견도 있다. 이러한 맥락에서, 본 연구에서는 기존의 Adapter 구조를 개선한 MAdapter를 제안한다. MAdapter는 본래 Adapter에 중간 층을 추가하되 학습 가능한 매개변수의 수는 오히려 줄이는 방법으로, 전체 매개변수 수 대비 1% 내외 만을 학습에 활용하며, Adapter 대비 절반 정도의 매개변수만을 사용하여 기존 결과와 비슷하거나 더 나은 성능을 얻을 수 있는 것을 확인할 수 있다. 또한, 병목차원 크기 비교와 중간 층 개수 분석을 통한 최적의 MAdapter 구조를 찾고, 이로써 효율적인 매개변수 미세조정 방법을 제시한다.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.11 no.1
• /
• pp.1-8
• /
• 2001

본 논문에서는 정규화된 데이터 공간과 가우스함수에 의한 산 함수 형성 그리고 형성된 산의 기울기를 이용한 산봉우리 붕괴를 특징으로 하는 개선된 산 클러스터링 방법을 제안한다. 이 개선된 방법은 기존의 Yager 등에 의하여 제안된 방법이 조정해야 하는 매개변수가 3개이고 발견된 클러스터 중심 주위에 원치 않는 다른 중심이 발생할 수 있는데 반하여 단지 하나의 매개변수 $\omega$의 조정으로 더욱 타당한 중심을 찾아내는 점에서 유용하다 할 수 있다. 또한 매개변수 $\omega$에 대한 적절한 선정 방법을 제시하고, 수치 자료에 대한 컴퓨터 모의실험을 통하여 개선된 산 클러스터링 방법의 유용성을 입증한다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2021.06a
• /
• pp.217-217
• /
• 2021

우리나라 동해 연안에 영향을 미쳤던 역사지진들과 일본에서 진행된 동해에서의 대규모지진에 관한 조사검토회에서 2014년에 보고된 동해 동연부와 남해 남연부 측에 있는 60개의 지진공백역들에 대한 단층매개변수들이 공개되어있어 수치실험을 통해 지진해일의 재해도를 분석하고 있다. 하지만 이러한 단층매개변수 값들에 대한 불확실성이 존재하기에 이를 대비한 지진해일 대책을 세울 필요가 있다. 단층매개변수의 불확실성을 고려하는 방법 중 한 가지는 해당 변수들을 조정하여 Case 모델들을 다양화하는 것이다. 이 때 매개변수의 변동에 대한 기준이 필요하기에 단층매개변수에 대한 민감도 분석이 진행되어야 한다. 본 연구의 최종목표는 지진해일에 대한 위험성에 대비하기 위해 선정된 연구지역에 대하여 단층매개변수들을 조정한 경우별 모델들을 사용한 수치모형 실험을 실행한 후 도출된 지진해일 처오름높이 및 처내림높이 결과를 분석하여 각 단층매개 변수의 지진해일에 대한 민감도를 결정하는 것이며, 최종적으로 확률론적 지진해일 재해도분석(Probabilistic Tsunami Hazard Analysys : PTHA)을 실시할 때 기준이 되는 로직트리를 작성할 때 명확한 근거를 제시한다. 단층매개변수의 민감도 분석은 일본(Goda et al., 2014), 미국(Sepúlveda and Liu, 2016), 뉴질랜드(D. Burbridge et al., 2015) 등에서 연구가 활발하게 이루어졌으며 현재도 활발한 연구가 진행되고 있다. 민감도 분석 과정은 먼저 역사 지진해일과 우리나라 근해에 영향을 미칠 수 있는 지진해일의 단층매개변수 조사한 후 파향선추적모형(wave ray-tracing)의 결과를 정리하여 대상 지역에 영향을 미치는 단층을 선정하고, 선정한 단층들의 단층매개변수 값을 일정한 기준을 두고 조정하여 실시한 지진해일 수치모형 실험에서 계산한 결과값을 분석하여 민감도를 결정한다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2023.05a
• /
• pp.380-380
• /
• 2023

기후변화와 도시화에 따른 개발사업으로 인하여 재해 위험성은 날로 증가하고 있다. 이로 인한 재해의 영향을 최소화하기 위해 각종 개발사업 시 자연재해대책법에 따라 사전에 자연재해에 따른 피해를 예방하기 위한 목적으로 재해영향평가 협의가 시행되고 있다. 재해영향평가 협의에서 홍수로 인한 재해예방을 위해 개발사업으로 인한 홍수유출 증가량 검토하고 저감 대책을 제시하게 된다. 이중 소규모 재해영향평가는 면적 5천m² 이상 5만m² 미만의 개발사업을 대상으로 실시되고 있으며, 이를 위한 첨두홍수량 산정 방법으로는 합리식, clark단위도법 등이 사용되고 있다. 소규모 유역의 첨두홍수량을 합리식, 단위도법 등으로 산정할 경우 도달시간이 매우 짧아 홍수량이 과다하게 산정된다. 이를 방지하기 위해 합리식에서는 강우지속기간을 늘리기 위해 일정 유입시간을 고려하고 있으며, 단위도법에서는 유역반응시간을 조정하고 있다. 기존의 연구에서 clark단위도법에서 저류상수 매개변수 보정을 7 ~ 10분으로 적용하도록 하고 있다. 본 연구에서는 화성, 양주, 청주지역의 소규모 재해영향평가협의 대상인 공장부지 조성사업의 홍수량 산정시 저류상수 매개변수 조정 사례를 조사하고 그 중 유역의 상황변화를 고려하지 않고 개발 후 매개변수 조정을 10분으로 적용한 10개 사업을 대상으로 선정하였다. 본 연구에서는 개발 후 매개변수 보정량을 10분을 7분으로 변경하여 홍수량을 산정하였다. 10개 사업 홍수량 산정결과 「재해영향평가등의 협의 실무지침 (2021.01, 행정안전부)」에서 제시하는 소유역 비홍수량의 범위인 25 ~ 35m³/s/km²에 8개 사업이 만족되었고, 2개 사업은 개발 후 비홍수량이 제시 범위를 다소 초과하였고, 홍수량의 증가는 4.7 ~ 16.3% 범위로 나타났다. 소규모 유역에서 저류상수 보정량이 홍수량 산정에 미치는 영향이 큰것을 감안하면 유역의 도시화등 상태변화 비율 및 소유역 면적별로 매개변수 조정량을 정량화하는 추가 연구가 필요하다.

• School Mathematics
• /
• v.5 no.4
• /
• pp.477-506
• /
• 2003

In this paper, we analyze nine-grade students' conceptions of parameters, their relation to unknowns and variables and the process of understanding of letters in problem solving of equations and functions. The roles of letters become different according to the letters-used contexts and the meaning of letters Is changed in the process of being used. But, students do not understand the meaning of letters correctly, especially that of parameter. As a result, students operate letters in algebraic expressions according to the syntax without understanding the distinction between the roles. Therefore, the parameter of learning should focus on the dynamic change of roles and the flexible thinking of using letters. We develop a self-regulation model based on the monitoring working question in teaching-learning situations. We expect that this model helps students understand concepts of letters that enable to construct meaning in a concrete context.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2016.05a
• /
• pp.225-225
• /
• 2016

잠재증발량에 대한 많은 경험식들이 제시되어 있지만 각각의 방식에 대한 국내의 적용성에 대하여 구체적으로 비교검토된 사례는 매우 제한적이다. 널리사용되고 있는 Hargreaves식은 비교적 단순한 형태를 지니고 있으나 대기수분량을 계산에 반영치 못하는 한계를 지니고 있다. 본 연구에서는 남한 내 다목적 댐 유역의 1973-2014년 기상자료를 바탕으로 Penman-Monteith (P-M) 식과 Hargreaves식을 통해 계산한 잠재증발산량($ET_{PM}$, $ET_{Harg}$)의 비교를 통해, Bouchet (1963)의 보완 관계 관점에서 $ET_{Harg}$가 $ET_{PM}$에 비해 과다 산정되는 경향이 있음을 확인하였다. 이에, 1973-2004년에 대한 각 댐 유역의 기상관측소 단위별로 산정된 $ET_{PM}$을 상대적인 정해로 간주하여 Hargreaves식의 매개변수를 추정하였다. 추정된 매개변수는 동일 관측소의 2005-2014년 기상자료와 함께 Hargreaves식에 적용 후, 다목적 댐 유역별 $ET_{PM}$과 $ET_{Harg}$을 산정하여 검정을 수행하였다. 수행 결과, Hargreaves 식의 매개변수 조정 전 $ET_{PM}$과의 Nash-Sutcliffe 일치계수는 0.47-0.79 (1973-2004), 0.28-0.76 (2005-2014)이었고, RMS 오차는 17.79-25.85 (1973-2004), 18.24-27.40 (2005년-2014년)이었으나, 매개변수 조정 후 Nash-Sutcliffe 일치계수는 0.96-0.98 (1973-2004), 0.95-0.98 (2005-2014)로, RMS 오차는 5.78-7.11 (1973-2004), 4.97-6.95 (2005-2014)로 조정 전 보다 향상된 결과를 보였다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2006.05a
• /
• pp.1161-1165
• /
• 2006

본 연구는 OLS 및 변수선택법에 의해 통계학적 모형의 매개변수를 산정하여 모형의 적용성을 입증하고 하천 주요지점에 대한 홍수위 예측을 통해 홍수예보 및 예측 업무에 기여코자하는데 연구목적이 있다. 다중선형회귀모형을 구성하기 위한 독립변수는 예보지점의 수위/유출량 자료와 상류지점의 수위/유출량 자료, 그리고 유역의 선행 평균강우량 등의 자료를 독립변수로 하여 통계학적 홍수예측을 위한 다중선형 회귀모형을 각각 구성하여 적합성 여부를 판단하였다. 매개변수 산정은 OLS(Ordinary least square root method)와 변수선택(Stepwise)방법에 의해 산정하였으며, 중랑천 유역의 2002년부터 2005년까지의 수문사상 16개를 선정하여 모형에 적용한 결과 두 매개변수 산정방법 모두 30분에서 90분 예측은 상대적으로 정확한 결과를 나타내었으며, OLS 및 변수선택법에 의한 매개변수 산정결과 변수선택법에 의한 방법이 OLS 방법보다는 상관성이나 효율지수면에서 조금 더 정확한 값을 나타내고 있으나 독립변수의 일관성을 감안한다면 변수선택법보다는 OLS방법에 의한 매개변수 산정이 타당할 것으로 사료된다. 기존의 홍수예보 업무에 활용되고 있는 수문학적 홍수예측 모형인 저류함수법의 여러 매개변수 조정에 의한 홍수위 예측 방법보다는 비교적 간단한 통계적 방법에 의한 홍수위 예측 방법으로 홍수예보의 선행시간 확보가 필수적인 중랑천과 같이 유역면적이 작은 중소하천에서의 홍수예보 업무에 효과적으로 이용 가능할 것으로 사료된다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2005.11a
• /
• pp.412-414
• /
• 2005

무선 랜 표준인 IEEE 802.11은 원래 best effort service를 위해 탄생된 기술이기 때문에 QoS(Quality of Service)에 대한 연구가 부족했다. 무선 랜에서는 기존 유선 랜보다 한정된 자원과 희박한 bandwidth, 다양한 노드들의 채널 공유로 인해 QoS를 보장하기가 어렵다. 이를 보완하기 위한 연구가 IEEE 802.11e 워킹그룹에서 진행되고 있다. 본 논문에서는 충돌방지를 위한 CSMA/CA 알고리즘의 back-off값 설정을 매개변수를 두어 idle 시간을 조정함으로써 QoS를 보장하는 알고리즘을 제안한다. 특히, QoS가 요구하는 패킷전달 간격 임계값(threshold)에 따른 매개변수를 조절하여 contention window 크기를 달리 조정함으로써 QoS를 요구하는 노드들의 수에 상관없이 균일한 서비스 성능을 유지하도록 한다. 이 때, 매개변수 값의 선택은 QoS를 제공하는 노드들의 서비스 성능 뿐 아니라 best effort service만을 제공해도 되는 일반 노드들의 서비스 성능도 함께 고려할 수 있도록 하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.05a
• /
• pp.678-680
• /
• 2023

본 논문은 정확하면서도 효율적인 한국어 문장 분류 기법에 대해서 논의한다. 최근 자연어처리 분야에서 사전 학습된 언어 모델(Pre-trained Language Models, PLM)은 미세조정(fine-tuning)을 통해 문장 분류 하위 작업(downstream task)에서 성공적인 결과를 보여주고 있다. 하지만, 이러한 미세조정은 하위 작업이 바뀔 때마다 사전 학습된 언어 모델의 전체 매개변수(model parameters)를 학습해야 한다는 단점을 갖고 있다. 본 논문에서는 이러한 문제를 해결할 수 있도록 도메인 적응기(domain adapter)를 활용한 한국어 문장 분류 프레임워크인 DAKS(Domain Adaptation-based Korean Sentence classification framework)를 제안한다. 해당 프레임워크는 학습되는 매개변수의 규모를 크게 줄임으로써 효율적인 성능을 보였다. 또한 문장 분류를 위한 특징(feature)으로써 한국어 사전학습 모델(KLUE-RoBERTa)의 다양한 은닉 계층 별 은닉 상태(hidden states)를 활용하였을 때 결과를 비교 분석하고 가장 적합한 은닉 계층을 제시한다.

• The Journal of the Korea Contents Association
• /
• v.10 no.12
• /
• pp.34-42
• /
• 2010

The DOA(direction of arrival), which is based on parametric and nonparametric estimation algorithm, and adaptive beamforming algorithm for mobile communication environments are researched and analyzed. In parametric estimation algorithm, eigenvalues of the signal component and the noise component are obtained from correlation matrix of received signal by array antenna and power spectrum of the received signal is discriminated from them. Otherwise, in nonparametric estimation algorithm, we minimize a regularized objective function for finding a estimate of the signal energy as a function of angle, using nonquadratic norm which leads to supper resolution and noise suppression. And then, DOA is estimated by the signal and noise spatial steering vector, and adaptive beam-forming pattern is improved by weight vectors obtained from the spatial vector. Therefore, the improved directional estimation algorithm with regularizing sparsity constraints offers super-resolution and noise suppression compared to other algorithms.