• 응용통계연구
• /
• 제32권6호
• /
• pp.899-908
• /
• 2019

수 많은 모수들을 가지고 있는 방대한 심층신경망은 매우 강력한 기계학습 방법이지만 모형의 과도한 융통성으로 인하여 과적합문제를 내포하고 있다. 드롭아웃 방법은 크기가 큰 신경망의 과적합 문제를 해결하는 다양한 방법들 중 하나이며 매우 효과적인 방법으로 알려져 있다. 드롭아웃 방법은 훈련과정에서 각각의 표본에 다른 모형을 적용하는데 이들 모형은 입력과 은닉층의 노드들을 무작위로 제거한 모형들 중에 임의로 선택된다. 본 연구에서는 임의로 선택된 모형에 둘 이상의 표본을 적용하여 모형의 가중치들에 대한 추정치의 안정성을 높이는 하이브리드 드롭아웃 방법을 제시하였다. 실제 자료를 이용한 시뮬레이션 결과 노드의 선택확률과 모형의 적합에 사용되는 표본의 수를 적절하게 선택하여 기존의 방법에 비하여 추정치의 변동성이 감소시킬 수 있었으며 동시에 검증자료에 대한 최저오차도 줄일 수 있음을 보였다.

• 한국음향학회지
• /
• 제11권3호
• /
• pp.5-13
• /
• 1992

한국어 숫자음이 단음절인 특성을 이용하여 각 숫자음에 대해 시간정합을 필요로 하지 않으면서 일정한 수를 갖는 특징벡터를 추출하여 다층구조 신경망으로 인식실험을 하였다. 음성신호의 시작점/끝점과 더불어 모음의 최대 피크점을 기준으로 해석구간을 초성, 중성, 종성의 세 부분으로 나누었으며, 음성신호의 특징벡터로는 반사계수, 켑스트럼, ${\Delta}$켑스트럼, ${\Delta}$에너지 등을 이용하여, 각 특징벡터 및 입력층과 은닉층의 노드 수에 따른 인식율 및 학습속도 등을 비교하였다. 신경망의 입력층의 특징벡터로서 반사계수를 사용한 경우보다 켑스트럼을 사용했을 때가 더 좋은 인식율을 보였다. ${\Delta}$켑스트럼의 특성이 전체 인식율에 미치는 영향이 그다지 크지 않았는데, 이는 한국어 숫자음이 단음절로 구성되어 있는 특징을 이용해 분석 구간을 stationary한 특성을 갖는 세 부분으로 구분하였기 때문이라 생각된다. 각 숫자음에 대해 150개의 켑스트럼을 사용한 경우에 97.8%의 인식율을 얻었다.

• 한국지능시스템학회논문지
• /
• 제9권5호
• /
• pp.490-495
• /
• 1999

본 논문에서는 보로노이 다이아그램을 이용하여 오류 역전파 신경망의 초기값을 결정할수 있는 VoD_EBP를 제안하였다. VoD_EBP는 초기 연결 가중치와 임계값을 공학적 계산방법으로 결정함으로써 기존의 EBP에서 자주 발생하는 학습 마비 현상을 피할수 있고 초기부터 빠른 속도로 학습이 진행되므로 학습횟수를 단축시킬수 있다, 또한 VoD_EBP는 은닉층의 노드 수를 보로노이 다각형으로 구분된 클러스터들의 개수로 정할 수있어 신경망 설계에 신뢰성을 향상시켰다. 제시된 VoD_EBP의 효율성을 입증하기 위해 간단한 실험으로 2차원 입력벡터를 갖는 XOR 문제와 3차원 패리티 코드 검출 문제에 대하여 적용하여 보았다. 그 결과 임의의 초기값으로 설정하였던 EBP보다 훨씬 빠르게 학습이 종료되었고, 지역 최소치에 빠져 학습이 진행되지 못하는 현상이 발생하지 않았다.

• 융합신호처리학회논문지
• /
• 제5권2호
• /
• pp.132-137
• /
• 2004

본 논문에서는 다층 신경회로망의 구조를 가지며, 백프로퍼게이션 학습 알고리즘을 이용한 적응신호처리 시스템을 구현하였다. 최소자승 알고리즘을 이용한 적응 잡음 제거기는 기준 신호와 잡음과의 상관도에 영향을 많이 받고, 정보 신호가 잡음에 비하여 상대적으로 작은 경우에 한계를 보이고 있다. 이와 같은 잡음에 대하여 본 논문에서 제안된 시스템은 좋은 성능을 보인다. 또한, 은닉층의 수와 노드 수를 다르게 구성했을 경우에 시스템의 출력에 미치는 결과에 대하여 분석하였다. 제안된 적응 신호처리 시스템의 장점을 알아보기 위하여 성능 평가의 기준이 되는 최소자승 알고리즘을 이용한 시스템과 비교하였다.

• 실천공학교육논문지
• /
• 제14권3호
• /
• pp.491-498
• /
• 2022

본 논문에서는 비전공자들을 위한 교양과정으로, 기초 순환신경망 과목 커리큘럼을 설계하는데 필수적으로 요구되는 순환신경망 SW 실습 사례를 개발하였다. 개발된 SW 실습 사례는 순환신경망의 동작원리를 이해시키는 데 초점을 두고, 시각화된 전체 동작 과정을 확인할 수 있도록 스프레드시트를 사용하였다. 개발된 순환신경망 실습 사례는 지도학습 방식의 텍스트완성 훈련데이터 생성, 입력층, 은닉층, 상태층(컨텍스트 노드) 그리고 출력층을 차례대로 구현하고, 텍스트 데이터에 대해 순환신경망의 성능을 테스트하는 것으로 구성되었다. 본 논문에서 개발한 순환신경망 실습사례는 다양한 문자 수를 갖는 단어를 자동 완성한다. 제안한 순환신경망 실습사례를 활용하여, 한글 또는 영어 단어를 구성하는 최대 문자 수를 다양하게 확장하여 자동 완성하는 인공지능 SW 실습 사례를 만들 수 있다. 따라서, 본 순환신경망 기초 실습 사례의 활용도가 높다고 할 수 있다.

• 한국지반공학회논문집
• /
• 제18권5호
• /
• pp.37-42
• /
• 2002

인공신경망은 복잡한 상호관계를 가지는 문제의 해결을 위한 효과적인 컴퓨터 테크닉으로써 많은 분야에 활발히 활용되고 있다. 본 논문에서는 지반의 액상화 가능성을 판별하기 위하여 인공신경망 이론을 사용하였으며, 이를 위하여 반복삼축압축시험 결과와 토성자료, 지반조사자료 등을 학습인자로 사용하였다. 학습과 검증에 서해안지역의 43개의 반복삼축압축시험 데이터가 사용되었다. 여기서 인공신경망의 학습은 예측된 CSR과 실측한 CSR 사이의 오차가 적어지도록 신경망의 가중치를 수정하는 것으로 이루어진다. 전체 신경망에 대한 평균제곱의 오차가 허용치 이내로 감소할 때까지 학습은 반복되어 진행되며 일반적으로 15,000 이상의 학습이 요구되는 것으로 나타났다. 다양한 노드수를 가지는 신경망에 대한 학습을 수행한 결과, 1번째 은닉층의 수가 20개이고 2번째 은닉층의 수가 10개인 신경망이 72~98%에 해당되는 정밀도를 가지고 해당 전단변형률과 반복횟수에서의 CSR값을 예측할 수 있었다. 여기서 NOC(Number of Cycle)와$D_10$, ($N_1$)$_60$ 등의 입력변수가 지반의 액상화 거동에 주요한 영향인자로 나타났다. 연구결과 인공신경망을 이용한 지반의 액상화 거동의 예측이 비교적 정확하게 산정됨을 알 수 있었으며, CSR과 ($N_1$)$_60$, NOC와의 관계가 기존의 연구 결과에 부합하여 나타남을 알 수 있었다.

• 한국컴퓨터정보학회논문지
• /
• 제16권8호
• /
• pp.39-47
• /
• 2011

다층퍼셉트론의 계층별 학습 방법의 하나인 Ergezinger 방법은 출력 노드가 1개로 구성되어 있고, 출력층의 가중치를 최소자승법으로 학습하기 때문에 출력층의 가중치에 조기포화 현상이 발생할 수 있다. 이런 조기 포화현상은 학습 시간과 수렴 속도에 장애가 된다. 따라서, 본 논문은 Ergezinger의 학습 방법을 출력층에서 벡터 형태로 학습할 수 있는 알고리즘으로 확대하고 학습 시간과수렴 속도를 개선하기 위해서 학습 상수를 도입한다. 학습상수는 은닉층 가중치 조정 시, 새로이 계산된 가중치와 기존 가중치의 상관 관계를 계산하여 학습 상수에 반영하는 가변적인 방법이다. 실험은 제안된 방법과 기존 방법의 비교를 위해서 iris 문제와 비선형 근사화 문제를 대상으로 실험하였다. 실험에서, 제안 방법은 기존 Ergezinger 방법보다 학습 시간과 수렴 속도에서 우수한 결과를 얻었으며, 상관 관계를 고려한 CPU time 측정에서도 제안한 방법이 기존 방법보다 약 35%의 시간을 절약할 수 있었다.

• 한국터널지하공간학회 논문집
• /
• 제19권1호
• /
• pp.95-107
• /
• 2017

본 논문에서는 제도적으로 운영 중인 터널내 CCTV들로부터 실시간으로 들어오는 영상들을 최신 딥러닝 알고리즘을 이용, 학습시켜 다양한 조건의 터널환경에서 돌발 상황을 감지하고 그 돌발 상황의 종류들을 분류해 내는 시스템 개발을 위한 사전검토 연구를 수행하였다. 사전검토 연구를 위해, 2개의 도로현장의 교통류 CCTV영상 일부를 이용하여 가용한 전통적인 영상처리기법으로 영상내부로 집입하는 차량을 감지하고, 이동경로를 추적하여 일정 시간간격의 이동 차량의 좌표와 시간정보를 추출하고 학습자료를 구성하였다. 각 차량의 이동정보는 차선변경, 정차 등 6가지의 이벤트 정보와 연계된다. 차량 이동정보와 이벤트로 구성된 학습자료는 레질리언스(resilience) 기계학습 알고리즘을 이용하여 학습하였다. 2개의 은닉층을 설정하고, 각 은닉층의 노드수에 대한 9개의 은닉구조 모델을 설정하여 매개변수 연구를 수행하였다. 본 사전검토의 경우에는 첫 번째, 두 번째 은닉층 노드수가 각각 300개와 150개로 설정된 모델이 합리적으로 가장 추론정확도가 높은 것으로 평가되었다. 이로부터 일반화되기 매우 힘든 복잡한 교통류 상황을 기계학습을 이용하여 어떠한 사전 규칙설정 없이도 교통류의 특징들을 정확히 자동으로 감지할 수 있는 가능성을 보였다. 본 시스템은 시스템의 운용을 통해 지속적으로 교통류 영상과 이벤트 정보가 늘어난다면, 자동으로 그 시스템의 인지능력과 정확도가 자동으로 향상되는 효과도 기대할 수 있다.

• 한국지능시스템학회논문지
• /
• 제12권6호
• /
• pp.511-516
• /
• 2002

신경회로망은 차원이 확장됨에 따라 학습에 필요한 계산량이 기학급수적으로 증가하는 문제가 발생한다. 이를 극복하기 위해 직교성을 지닌 웨이블릿 신경회로망이 제안되었다. 웨이블릿 함수의 경우 스케일과 중심을 결정함으로써 신경회로망의 노드로 구성된다. 본 논문에서는 웨이블릿 함수를 이용하여 망을 구성하는 과정에 스케일링 함수를 함께 은닉층의 노드로 복합 구성함으로써 스케일링 함수를 이용하여 대강 근사(rough approximation)를 행한 다음, 웨이블릿 함수를 이용하여 미세 근사(fine approximation)를 행하도록 구성하는 복합 신경회로망을 제안한다. 또한, 복합 신경회로망을 구성하는 과정에서 미세 근사에 필요한 웨이블릿 함수의 개수를 유전 알고리즘을 이용하여 결정한다.

• 한국수자원학회:학술대회논문집
• /
• 한국수자원학회 2012년도 학술발표회
• /
• pp.301-304
• /
• 2012

홍수예경보는 강우로 인하여 발생되는 홍수의 규모와 시간을 가능한 한 정확하고 빨리 예측하여 홍수에 대비할 수 있도록 유관기관 및 지역주민에게 사전에 홍수에 관한 정보 즉 예측되는 수위와 시간을 제공함으로써 홍수로부터의 피해를 최소화하는 것이다. 이와 같은 목적을 성공적으로 완수하기 위해서는 홍수시 급변하는 하천유량에 영향을 미치는 모든 수문학적 기상학적 자료를 신속 정확하게 수집할 수 있는 관측 시스템의 구축 뿐 아니라 이들 수집된 자료를 이용하여 실시간 홍수추적을 할 수 있는 효율적인 유출량 계산모형이 조화를 이룰 때 가능하다. 이에 본 연구에서는 중 소하천에서 홍수예경보를 위한 지능형 U-River 시스템의 실시간 모니터링 기술을 조사하고 하천수위를 이용한 예측시스템에 대해 연구하였다. 기존의 홍수예경보의 문제점을 해결하기 위해 간단한 입력자료만으로 홍수예측이 가능한 인공지능 기반의 신경망 모형을 이용 하였으며, 예측 모형의 효율성과 적용성을 높이기 위해 유사한 수문 사상을 가지는 상 하류간 입력 자료를 동시에 사용하였다. 또한 하천수위를 이용한 모델의 수행은 각 지점별 훈련성과를 토대로 최적의 은닉층 노드수를 선발하여 실시간 수위예측에 활용하였으며 수치적 기준을 적용하여 실측 수위와 모형에 의해 예측된 수위를 이용하여 평가하였다.