• Communications for Statistical Applications and Methods
• /
• 제4권1호
• /
• pp.91-99
• /
• 1997

본 연구에서는 신경망이론을 이용하여 시계열자료를 분석할 때 문제가 되고 있는 초기 가중값을 선정하는 방법을 제시하고자 한다. 기존의 연구에서 학습을 위한 초기 가중값의 결정은 난수에 의존하고 있다. 본 연구에서는 신경망학습의 효율적인 초기값을 선택하기 위하여 제어상자를 이용한다. 그리고 학습과정에서 가중값의 변화를 추적하고 적절한 가중값의 범위를 탐색하면서 새로운 초기값을 제어상자를 통하여 실시간으로 재설정하는 방법을 제시한다.

• 대한전자공학회:학술대회논문집
• /
• 대한전자공학회 2003년도 하계종합학술대회 논문집 Ⅲ
• /
• pp.1275-1278
• /
• 2003

본 논문에서는 오차 역전파 알고리즘의 전역 최소값을 찾지 못하는 문제점에 대해서 설명하였고, 이 문제를 해결하기 위한 방법으로 유전자 알고리즘에 대해서 설명하였다. 오차 역전파 알고리즘은 기본적으로 경도 하강법을 따른다. 따라서 신경망의 각 가중값 행렬이 만드는 고차의 오차 평면이 대부분의 문제에서 다수의 국부 최소값들을 가지는게 일반적인데, 가중값의 변화가 한방으로 진행하기 시작하여, 오차가 증가되어지는 언덕이 학습 계수보다 크다면 더 이상 학습은 진행되지 않고 거기에서 빠져나가지 못한다. 따라서 초기의 위치가 중요한 역할을 하는데, 이 문제를 해결하기 위해서 유전자 알고리즘을 이용한 신경망 초기화 방법을 제안하였다. 끝으로, 간단한 실험으로 제안된 방법을 구현하고 결과에 대해서 논하였다

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2004년도 추계학술발표논문집(상)
• /
• pp.493-496
• /
• 2004

본 연구에서는 신경망 학습의 중요한 평가 척도로써 고려될 수 있는 일반화 성능과 학습속도를 개선시키기 위한 방안으로써 초기 가중값과 학습률과 같은 주요 인자들을 이용한 신경망 학습 영향을 살펴본다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 점차적으로 변화시키는 새로운 인자 결합방법을 이용하여 신경망 학습량과 학습속도를 비교해 보고 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 제시한다.

• 응용통계연구
• /
• 제26권5호
• /
• pp.847-856
• /
• 2013

본 연구에서는 Liu 등의 학습 알고리즘과 Wu와 Zhang의 초기 가중값의 범위 설정, 그리고 Gunaseeli와 Karthikeyan의 초기 가중값에 관한 연구 결과를 이용하여 일반화 네트워크를 구할 수 있는 개선된 학습을 제안하고, 최적화된 신경망 학습률들을 이용하여 개선된 학습 과정의 학습효율등을 비교해 본다. 제시된 알고리즘을 이용한 학습에서 학습 초기에는 가장 단순한 학습 패턴과 은닉층으로부터 학습을 시작한다. 신경망 학습과정 중에 지역 최소값에 수렴되는 경우에는 가중값 범위 조정을 통하여 지역 최소값 문제를 해결하고, 지역 최소값으로부터 탈출이 용이하지 않으면 은닉노드를 점차적으로 하나씩 추가하면서 학습한다. 각 단계에서 새롭게 추가된 노드에 대한 초기 가중값의 선택은 이차계획법을 이용한 최적 처리절차를 이용한다. 최적 처리절차는 은닉층의 노드가 추가된 후의 새로운 네트워크에서 학습회수를 단순히 증가시키지 않아도 주어진 학습 허용오차를 만족시킬 수 있다. 본 연구에서 적용한 개선된 알고리즘을 이용하면서 초기 가중값들에 관한 기존 연구들을 적용하면 신경망 학습시의 수렴 정도를 높여주고 최소한의 단순 구조를 갖는 일반화 네트워크로 추정할 수 있게 된다. 이러한 학습률들을 변화시키는 모의실험을 통하여 기존의 연구 결과와의 학습 효율을 비교하고 향후 연구 방향을 제시하고자 한다.

• 정보처리학회논문지B
• /
• 제12B권3호
• /
• pp.343-348
• /
• 2005

본 연구에서는 신경망 학습의 일반화 성능과 학습속도를 개선시키기 위한 인자들의 결합 효과를 살펴본다. 신경망 학습에서 중요한 평가 척도로서 여기서 고려하는 인자들에는 초기 가중값의 범위와 학습률 그리고 계수조정 등이 있다. 특히 초기 가중값과 학습률을 고정시킨 후 새롭게 조정된 계수들을 단계적으로 변화시키는 새로운 인자 결합방법을 이용한다. 이를 통하여 신경망 학습량과 학습속도를 비교해 보고, 계수조정을 통한 개선된 학습 영향을 살펴본다. 그리고 비선형의 단순한 예제를 이용한 실증분석을 통하여 신경망 모형의 일반화 성능과 학습 속도 개선을 위한 각 인자들의 개별 효과와 결합 효과를 살펴보고 그 개선 방안을 논의한다.

• 한국정보과학회논문지:소프트웨어및응용
• /
• 제28권4호
• /
• pp.338-345
• /
• 2001

본 연구에서는 시계열자료를 예측하기 위해 적용한 n$\times$n$\times$1 신경망 구조에서 초기값의 시각적인 선택을 통한 개선된 학습과정을 제안한다. 적용된 Easton[1]의 제어상자는 시각적인 면과 실용적인 적용측면에서 다차원 구조를 논의하기에는 제한적이지만, 적은 개수의 은닉노드를 갖는 단순한 신경망구조에서는 초기 가중값들의 동적인 선택을 통하여 가능한 빨리 효과적인 학습이 이루어질 수 있게 할 수 있다. 신경망 학습의 오차 판단기준은 기존의 평균제곱오차(MSE)를 고려한다. 실증연구에는 모의생성된 ARMA(1,0) 자료와 담배생산량 자료를 이용한다.

• 인터넷정보학회논문지
• /
• 제5권4호
• /
• pp.115-124
• /
• 2004

본 논문에서는 가중 퍼지 페트리네트에 기반을 둔 규칙기반시스템을 위한 가중 퍼지 후진추론 알고리즘을 제안한다. 규칙기반시스템에 있는 퍼지 생성규칙은 가중 퍼지 페트리네트로 모형화된다. 여기에서 퍼지 생성규칙에 나타나는 퍼지 명제의 진리값과 규칙의 확신도는 퍼지 숫자로 표현한다. 그리고 규칙에 나타나는 퍼지 명제의 가중값도 퍼지 숫자로 표현하다. 제안한 가중 퍼지 후진추론 알고리즘은 목표노드에서 초기노드까지 후진추론 통로를 생성한 후 목표노드의 확신도를 계산한다. 우리가 제안한 알고리즘은 규칙기반시스템이 더 유연하고 사람과 같은 방법으로 가중 퍼지 후진추론을 하는 것을 가능하게 한다.

• 응용통계연구
• /
• 제13권2호
• /
• pp.447-455
• /
• 2000

본 논문에서는 커널분류기에 요구되는 다량의 계산량과 자료저장공간을 감소시키도록 고안된 최적군집방법을 적용한 K-평균 가중커널분류기법이 제안되었다. 이 방법은 원래의 훈련표본보다 작은 수의 참고벡터들과 그들의 가중값을 들을 찾아 원래 커널분류 기준을 근사화하여 패턴을 인식하는 것이다. K-평균 가중커널분류기법은 가중파젠윈도우(WPW)분류기법을 개량한 것으로서 참고벡터들을 계산하기 위한 초기 부적절하게 군집된 관측값들을 최적으로 재군집화 함으로써 WPW기법의 단범을 극복하였다. 실제자료들에 제안된 방법을 적용한 결과 WPW분류기법보다 참고벡터들의 대표성과 자료축소면에서 월등히 향상된 결과를 확인하였다

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2003년도 춘계학술발표논문집 (상)
• /
• pp.337-340
• /
• 2003

다층 퍼셉트론(Multi-Layer Perceptron, MLP) 구조를 이용한 비선형 적합은 실제문제에 매우 다양하게 적용되고 있다. 이때 일반화된 MLP 구조의 적합을 위해서는 은닉노드의 개수 초기 가중값 그리고 학습 회수와 같은 구조인자들을 함께 고려해야 한다. 만약 구조인자들이 부적절하게 선택되었다면 일반화된 MLP 구조의 적합효율이 매우 저하될 수 있다. 그러므로 MLP 구조에 영향을 주는 인자들의 영향을 살펴보는 것은 중요한 문제다. 이 논문에서는 제어상자(controller box)를 통한 학습결과와 더불어 MLP 구조를 일반화할 때 영향을 줄 수 있는 구조인자(factor)들의 실증분석과 이들의 상대효과를 살펴본다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2015년도 학술발표회
• /
• pp.399-399
• /
• 2015

밭에서의 비점오염은 경사에 따른 토양유실과 높은 비료 시용량으로 부하가 상대적으로 높아 이에 대한 관리의 필요성이 증대되고 있다. 따라서 본 연구에서는 4개의 강우 사상에 대하여 경사지 밭에서 유출되는 오염물질의 농도와 특성을 파악하여 밭에서의 비점오염 관리의 기초 자료로 제공하고자 한다. 본 연구의 조사 지구는 충청북도 청주시 상당구 미원면 옥화리에 위치한 경사지 밭으로 면적은 0.77 ha이며, 중앙에 위치한 배수로 말단에 삼각위어를 설치하여 4개의 강우사상에 대해 모니터링을 수행하였다. 연구결과 강우사상의 강우량은 17.0~33.6 mm의 범위로 나타났으며, 평균 강우강도는 1.0~4.8 mm/h로 나타났다. 유출률은 3.1~26.8 %로 나타났는데, 선행강우가 높은 강우사상에서 가장 높은 값을 보였다. 오염물질 유량가중평균농도(Event Mean Concentration; EMC)는 TN 5.6~13.1 mg/L(평균 10.8 mg/L), $NO_3-N$ 4.1~12.9 mg/L(평균 9.3 mg/L), TP 0.46~1.34 mg/L(평균 0.8 mg/L), $PO_4-P$ 0.3~0.8 mg/L(평균 0.5 mg/L), SS 1,099~6,547 mg/L(평균 3,438 mg/L) 및 COD 27.1~38.6 mg/L(평균 33.1 mg/L)의 범위를 보였다. TN과 TP의 유량가중평균농도 평균값은 강우시 농촌유역 유출수의 유량가중평균농도인 3.1, 0.3 mg/L보다 높게 나타나 밭으로부터의 유출수가 유역 유출수의 농도를 높이는 것으로 판단된다. 또한 TN 농도는 시비의 영향을 받고, TP 농도는 강우강도와 작물 부분 토양 피복도의 영향을 받는 것으로 나타났다. SS 농도는 평균 강우강도에 비례하는 것으로 나타났다. 강우에 따른 오염물질 농도변화를 보면 TN의 농도는 강우 초기에 높게 나타났으며, 유량이 증가함에 따라 감소하고, 유량이 감소하면서 다시 증가하는 경향을 보였다. TP, SS 및 COD의 농도는 유량이 증가함에 따라 증가하고, 유량이 감소하면서 다시 감소하는 경향을 보였다. 또한, SS의 경우 최대농도가 첨두유량 앞에서 나타나는 초기 세척현상(First flush)을 보였다. 향후 보다 많은 강우사상을 대상으로 밭 유출수의 농도 및 오염부하에 대한 추가적인 모니터링을 통해 오염물질의 유출특성을 파악해야 할 것으로 판단된다.