• Proceedings of the KIEE Conference
• /
• 2002.07d
• /
• pp.2749-2751
• /
• 2002

일반화된 회귀 신경망 (GRNN)을 이용하여 플라즈마을 분류하는 새로운 알고리즘을 보고한다. 데이터분포를 통계적인 평균치와 표준편차를 이용하여 특징지었으며, 바이어스 인자을 이용하여 9 종류의 데이터을 발생하였다. 각 데이터에 대하여 GRNN의 학습인자를 최적화하였으며, 모델성능은 예측과 분류 정확도로 나누어 바이어스와 학습인자의 함수로 분석하였다. 바이어스는 모델성능에 상당한 영향을 주었으며, 학습인자와의 상호작용을 통하여 완전 분류를 이루었다.

• Proceedings of the Korean Institute of Intelligent Systems Conference
• /
• 2002.05a
• /
• pp.77-80
• /
• 2002

이상치를 포함한 학습 데이터의 군집화 전략은 일반적으로 이상치를 포함하여 학습하거나, 이상치를 제거하는 두 가지 선택이 가능하다. 이상치를 제거하지 않고 학습에 반영시켜야 할 경우 한 개 또는 소수의 이상치가 독자적인 군집을 형성하거나 객관적인 군집화를 방해하는 문제가 발생할 수 있다. 이 때 주어진 학습 데이터의 군집 결과가 이상치의 영향으로부터 벗어나기 위해 원래의 학습 데이터에 대한 변환 작업을 거친 후 군집화를 수행할 수 있다. 이러한 변환 방법으로서 본 논문에서는 차원 축소의 기법으로 알려진 인자 분석의 점수를 사용하였다. 인자 점수로 변환된 학습 데이터에 대해 계층적 군집화, K-means 그리고 자기조직화 지도 등과 같은 군집화 알고리즘을 적용하면 이상치가 자신만의 군집을 별도로 형성하지 않고 다른 학습 데이터의 군집에 소속되면서 이상회의 영향으로부터 벗어남을 실험을 통하여 확인하였다.

• The KIPS Transactions:PartB
• /
• v.12B no.3 s.99
• /
• pp.343-348
• /
• 2005

The goal of this paper is to study the joint effect of factors of neural network teaming procedure. There are many factors, which may affect the generalization ability and teaming speed of neural networks, such as the initial values of weights, the learning rates, and the regularization coefficients. We will apply a constructive training algerian for neural network, then patterns are trained incrementally by considering them one by one. First, we will investigate the effect of these factors on generalization performance and learning speed. Based on these factors' effect, we will propose a joint method that simultaneously considers these three factors, and dynamically hue the learning rate and regularization coefficient. Then we will present the results of some experimental comparison among these kinds of methods in several simulated nonlinear data. Finally, we will draw conclusions and make plan for future work.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2019.05a
• /
• pp.340-340
• /
• 2019

지구온난화로 유발되는 기후변동성이 증가함에 따라서 정확한 수문인자의 예측은 전 세계적으로 주요 관심사항이 되고 있다. 최근에는 고성능 컴퓨터 자원의 증가로 수문기상학 연구에서 동일한 학습량에 비하여 정확도의 향상이 뚜렷한 기계학습 구조를 활용하여 위성영상 기반의 대기예측, 태풍위치 추적 및 강수량 예측 등의 연구가 활발하게 진행되고 있다. 본 연구에는 기계학습 중 시계열 분석에 널리 활용되고 있는 순환신경망(Recurrent Neural Network, RNN) 기법의 대표적인 LSTM(Long Short-Term Memory) 네트워크를 이용하여 수문인자를 예측하였다. LSTM 네트워크는 가중치 및 메모리 요소에 대한 추가정보를 셀 상태에 저장하고 시계열의 길이 조정하여 모형의 탄력적 활용이 가능하다. LSTM 네트워크를 이용한 다양한 수문인자 예측결과 RMSE의 개선을 확인하였다. 따라서 본 연구를 통하여 개발된 기계학습을 통한 수문인자 예측기술은 권역별 수계별 홍수 및 가뭄대응 계획을 능동적으로 수립하는데 활용될 것으로 판단된다. 향후 연구에서는 LSTM의 입력영역을 Bayesian 추론기법을 활용하여 구성함으로 학습과정의 불확실성을 정량적으로 제어하고자 한다.

• Journal of Biosystems Engineering
• /
• v.15 no.4
• /
• pp.319-327
• /
• 1990

시스템의 적응 제어함수를 산출하는 네트워크인 소뇌모델 선형조합 회로망을 이용한 학습제어 기법은 시스템에 영향을 주는 제어인자들의 불확실성 및 모델링의 결여에도 불구하고 오히려 안정한 실시간 제어의 구현을 가능하게 함으로써 대단한 관심을 불러 일으켜 왔다. 그러나, 센서로부터의 정보처리와 인식 그리고 복잡한 비선형 시스템의 제어에 적용하기에는 회로망 자체의 내재적 문제점들이 여전히 남아있다. 소뇌모델 선형조합 회로망을 기지 또는 미지의 시스템 모델에 효과적으로 적용하기 위해서는 네트워크에 영향을 주는 제어인자가 시스템에 미치는 영향을 분석하는 것이 필수적이다. 분할 블럭의 크기, 학습이득, 입력편이 그리고 입력변수들의 영역과 같은 네트 제어인자들은 시스템의 학습 능률 및 소요 기억용량의 크기에 중대한 영향을 미침에도 불구하고 충분히 조사되지 못한 실태이다. 물론 이들 제어인자들의 결정에는 학습 대상이 되는 시스템 함수의 형태와 적용 학습 알고리즘이 반드시 고려되어야 한다. 본 논문에서는 학습 능률성에 미치는 이들 제어인자들의 상호영향도를 저자가 제안하였던 기본 학습 알고리즘에 의거하여 조사하였다. 분석적인 방법만으로 이러한 상호영향성을 조사하기는 매우 힘들거나 거의 불가능하다고 보아지기 때문에 학습 대상함수를 먼저 규정하여 다양한 컴퓨터 모의시험을 수행하였고 그 결과를 분석하였다. 컴퓨터 모의시험의 결과에 의하여 회로망의 시스템 적용시 고려할 설계 지침을 제시하였다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2023.05a
• /
• pp.147-147
• /
• 2023

낙동강은 4대강 사업을 통한 다기능 보 건설로 하천 환경에 변화가 일어났다. 하천 수심이 증가하고 유속이 느려지는 정체성 수역 특성을 나타내고 있다. 이는 남조류 발생에 영향을 주며 남조류가 분비하는 독성물질 또한 수생태계와 인체에 유해하며 남조류 발생에 따른 다양한 원인인자들이 있다. 이러한 남조류 발생 특성을 정량적으로 규명하기 위하여 최근 조류 관리에 있어 데이터 마이닝 및 머신러닝 기법을 적용한 연구가 이루어지고 있다. 머신러닝에서는 학습자료 선정에 따라 예측 결과가 다르게 나타나며 이는 발생원인이 복잡한 남조류에 있어 중요한 부분이라 볼 수 있다. 낙동강의 다기능보는 하나의 유체에 직렬형으로 8개의 다기능보가 위치하고 있다. 8개의 보로 나누어져있는 하천은 각 구간별로 보의 수리학적 특성, 유역 특성이 다르다. 따라서 구간별 조류 발생 특성이 다르게 나타난다. 본 연구에서는 구간별 특성을 분류하고 조류 발생에 영향을 미치는 주요 인자들을 분석하고자 한다. 조류 발생에 있어 낙동강 8개 보 지점에 대하여 복잡한 남조류 발생 주요 영향인자 분석과 더불어 머신러닝 기법을 이용하여 영향인자에 따른 남조류 발생조건을 정량적으로 분석하였다. 수질 인자뿐만이 아닌 수리학적 인자를 고려하여 수리학적 체적시간이 다른 각 보에서의 조류발생 특성을 분석하고자 하였다. 또한 학습인자에 따라 남조류 예측에 대한 정확도 향상이 가능한지를 확인하고 이를 통해 정체성 하천에서의 남조류 발생 특성에 대해 연구하고자 하였으며 이를 통해 낙동강 남조류 발생 및 관리에 있어 선제적 관리에 활용하고자 한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2004.11a
• /
• pp.493-496
• /
• 2004

본 연구에서는 신경망 학습의 중요한 평가 척도로써 고려될 수 있는 일반화 성능과 학습속도를 개선시키기 위한 방안으로써 초기 가중값과 학습률과 같은 주요 인자들을 이용한 신경망 학습 영향을 살펴본다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 점차적으로 변화시키는 새로운 인자 결합방법을 이용하여 신경망 학습량과 학습속도를 비교해 보고 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 제시한다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2019.05a
• /
• pp.39-39
• /
• 2019

인구의 도시 집중화로 인하여 다량의 생활용수의 사용에 따라 하천의 자정능력을 초과하여 오염을 유발시키고 있다. 이에 도시하천들의 오염은 점점 심해져 경제적으로 많은 문제를 유발하고 있다. 이러한 하천오염 문제를 과학적으로 대응하기 위해서는 오염물질의 농도 측정 및 데이터 축척을 통한 오염예측이 필수적이라 할 수 있으며, 부산광역시 보건환경정보 공개시스템에서는 하천수질 자동측정망을 설치하여 시간 단위로 오염물질을 측정하고 있다. 그러나 온천천의 하천수질 데이터는 계속 쌓여가고 있는데 이 데이터를 활용해서 하천수질 인자 예측이 거의 이뤄지지 않고 있다. 본 연구에서는 순환신경망 알고리즘을 활용하여 일 단위의 하천수질 인자 예측을 시도하였다. 순환신경망은 인공신경망의 발전된 형태인 시계열 학습에 강한 RNN, LSTM 알고리즘을 활용한 일단위 하천수질 인자 예측을 하고자 하였다. 연구에 앞서 시간 단위로 쌓여있는 데이터를 평균 내어 일 단위로 변경하였고 이 데이터를 가지고 일 단위 하천수질 인자 예측을 진행하였다. 연구에는 Google에서 개발한 딥러닝 오픈소스 라이브러리인 텐서플로우를 활용하여 DO, 탁도 등 항목을 예측하였다. 하천오염의 학습과 예측을 위해 대상지로는 부산지역 온천천의 부곡교, 세병교, 이섭교 관측소를 선택하였다. 연구를 위해 DO, 탁도 등 자료 수집은 부산광역시 보건환경정보 공개시스템의 자료를 활용하였다. 모형의 학습을 위해 입력자료로는 하천수질 인자 자료를 이용하였고, 자료의 학습에는 2014년~2017년 4년간의 자료를 학습자료로 사용하였고, 2018년 1년간의 자료는 모형의 검증을 위해 사용하였다. RNN, LSTM 알고리즘을 활용하여 분석 시 은닉층의 개수, 반복시행횟수, sequence length 등의 값을 조절하여 하천수질 인자 예측을 하였다. 모형의 검증을 위해 $R^2$(r square)와 RMSE(root mean square error)을 이용하여 통계분석을 실시하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2003.05a
• /
• pp.337-340
• /
• 2003

다층 퍼셉트론(Multi-Layer Perceptron, MLP) 구조를 이용한 비선형 적합은 실제문제에 매우 다양하게 적용되고 있다. 이때 일반화된 MLP 구조의 적합을 위해서는 은닉노드의 개수 초기 가중값 그리고 학습 회수와 같은 구조인자들을 함께 고려해야 한다. 만약 구조인자들이 부적절하게 선택되었다면 일반화된 MLP 구조의 적합효율이 매우 저하될 수 있다. 그러므로 MLP 구조에 영향을 주는 인자들의 영향을 살펴보는 것은 중요한 문제다. 이 논문에서는 제어상자(controller box)를 통한 학습결과와 더불어 MLP 구조를 일반화할 때 영향을 줄 수 있는 구조인자(factor)들의 실증분석과 이들의 상대효과를 살펴본다.

• Proceedings of the Korean Institute of Electrical and Electronic Material Engineers Conference
• /
• 2004.11a
• /
• pp.272-275
• /
• 2004

플라즈마 식각공정은 소자제조를 위한 미세 패턴닝 제작에 이용되고 있다. 공정 메커니즘의 정성적 해석, 최적화, 그리고 제어를 위해서는 컴퓨터 예측모델의 개발이 요구된다. 역전파 신경망 (backpropagation neural network-BPNN) 모델을 개발하는 데에는 다수의 학습인자가 관여하고 있으며, 가장 그 최적화가 어려운 학습인자는 초기웨이트이다. 모델개발시, 초기웨이트는 random 값으로 설정이 되며, 이로 인해 초기웨이트의 최적화가 어렵다. 본 연구에서는 유전자 알고리즘 (genetic algorithm-GA)을 이용하여 BPNN의 초기웨이트를 최적화하였으며, 이를 식각공정 모델링에 적용하여 평가하였다. 실리카 식각공정 데이터는 $2^3$ 인자 실험계획법을 이용하여 수집하였으며, GA에 관여하는 두 확률인자의 영향을 42 인자 실험계획법을 이용하여 최적화 하였다. 종래의 모델에 비해, 최적화된 모델은 실리카 식각률, Al 식각률, Al 선택비, 그리고 프로파일 응답에 대해서 각 기 24%, 13%,, 16%, 그리고 17%의 향상률을 보였다. 이는 제안된 최적화 기법이 플라즈마 모델의 예측성능을 증진하는데 효과적으로 응용될 수 있음을 의미한다.