• 전자공학회논문지C
• /
• 제36C권12호
• /
• pp.78-89
• /
• 1999

기존의 웨이블릿 신경망들의 구조는 주로 주파수-시간 공간으로 변환된 훈련 패턴의 분포와 웨이블릿 윈도우와의 관계를 고려하여 결정한다. 또한 신경망 구조 결정 알고리즘과 네트워크 파라메터 학습 알고리즘을 분리하여, 우선 신경망 구조를 결정한 후, 출력 에러를 최소화하기 위한 학습을 수행한다. 그러나 이러한 방법은 학습을 시작하기 전에 훈련 패턴을 변환해야 하는 부가적인 전처리 과정이 필요하고, 초기에 구성된 신경망 구조는 변경되지 않는다는 단점을 가지고 있다. 본 논문에서는 별도의 처리 과정 없이 신경망의 출력과 교사 신호의 차이를 이용하여 웨이블릿 신경망 구조를 결정하는 방법을 제안한다. 제안하는 알고리즘은 네트워크 구조의 결정과 에러 최소화 학습을 동시에 수행하기 때문에 문제의 복잡도에 따라 적응적으로 은닉 노드의 수를 결정한다. 또한 학습에 의해 가장 큰 에러가 발생하는 영역에 은닉 노드를 추가하고 출력에 영향을 미치지 않는 노드를 제거하는 방법을 사용하여 네트워크의 구조를 최적화한다. 본 알고리즘은 훈련 패턴에 대한 전처리 과정을 없앰으로써 학습하기 전에 모든 훈련 패턴을 알고 있어야 한다는 제약 조건을 없애고 시간의 변화에 따라 출력이 바뀌는 시스템에도 효과적인 적용이 가능하다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2011년도 제42회 하계학술대회
• /
• pp.1962-1963
• /
• 2011

본 연구에서는 패턴분류를 위해 최적화된 방사형 기저 함수 신경회로망(Radial Basis Function Neural Networks) 분류기를 제안한다. RBFNN은 입력층, 은닉층, 출력층의 3층 구조로 되어 있으며 Multi Dimension, Predictive ability, Robustness한 특징이 있다. RBFNN의 은닉층에는 기존의 활성함수가 아닌 Fuzzy C-means 클러스터링 알고리즘을 사용하여 입력 데이터의 특성을 고려한 적합도를 사용하였다. RBFNN은 은닉층의 노드수와 FCM 클러스터링의 퍼지화 계수, 연결가중치의 다항식 타입이 모델의 성능의 향상에 영향을 미치기 때문에 최적화가 필요하며 본 논문에서는 Differential Evolution(DE) 알고리즘을 사용하여 모델의 구조 및 파라미터를 최적화시켜 모델의 성능을 향상시켰다. 제안된 모델을 평가하기 위해 패턴분류에 많이 사용되는 Iris 데이터와 Wine 데이터를 이용하였다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2019년도 춘계학술발표대회
• /
• pp.467-469
• /
• 2019

딥러닝에서는 기본 층을 겹겹이 쌓아 올려 구성한 신경망이라는 모델을 사용하여 데이터를 학습한다. 신경망 모델에서 층(layer)은 신경망의 핵심 구성 요소로서 입력된 데이터로부터 주어진 문제에 더 의미 있는 표현을 추출하고 표현할 수 있다. 이러한 층의 개수와 층 내에 노드의 개수는 신경망 설계에서 가장 기본적인 문제 중에 하나이다. 본 논문에서는 층의 개수와 노드의 개수가 신경망 학습에 어떠한 영향을 미치는지 실험을 통하여 평가해본다.

• 응용통계연구
• /
• 제26권5호
• /
• pp.847-856
• /
• 2013

본 연구에서는 Liu 등의 학습 알고리즘과 Wu와 Zhang의 초기 가중값의 범위 설정, 그리고 Gunaseeli와 Karthikeyan의 초기 가중값에 관한 연구 결과를 이용하여 일반화 네트워크를 구할 수 있는 개선된 학습을 제안하고, 최적화된 신경망 학습률들을 이용하여 개선된 학습 과정의 학습효율등을 비교해 본다. 제시된 알고리즘을 이용한 학습에서 학습 초기에는 가장 단순한 학습 패턴과 은닉층으로부터 학습을 시작한다. 신경망 학습과정 중에 지역 최소값에 수렴되는 경우에는 가중값 범위 조정을 통하여 지역 최소값 문제를 해결하고, 지역 최소값으로부터 탈출이 용이하지 않으면 은닉노드를 점차적으로 하나씩 추가하면서 학습한다. 각 단계에서 새롭게 추가된 노드에 대한 초기 가중값의 선택은 이차계획법을 이용한 최적 처리절차를 이용한다. 최적 처리절차는 은닉층의 노드가 추가된 후의 새로운 네트워크에서 학습회수를 단순히 증가시키지 않아도 주어진 학습 허용오차를 만족시킬 수 있다. 본 연구에서 적용한 개선된 알고리즘을 이용하면서 초기 가중값들에 관한 기존 연구들을 적용하면 신경망 학습시의 수렴 정도를 높여주고 최소한의 단순 구조를 갖는 일반화 네트워크로 추정할 수 있게 된다. 이러한 학습률들을 변화시키는 모의실험을 통하여 기존의 연구 결과와의 학습 효율을 비교하고 향후 연구 방향을 제시하고자 한다.

• 대한의용생체공학회:의공학회지
• /
• 제20권6호
• /
• pp.555-560
• /
• 1999

간질은 신경세포의 일부가 짧은 시간동안 과도한 전기를 발생시킴으로써 일어나는 신경계의 발작적 증상으로 배경 활동파와는 구별되는 극파, 예파, 예파와 서파를 동반한 극서파 복합(sharp and slow complexes)의 뇌파 특징파를 갖는다. 장시간의 뇌파기록에서 시간의 절약과, 정량화를 위해 컴퓨터를 이용한 간질 파형의 자동 검출은 객관성을 높이고 정량적인 해석을 위해 필수적이다. 본 연구에서는 간질 뇌파를 검출하기 위해 웨이브렛 변환과 신경망을 사용하였다. 웨이브렛 변환은 잡음을 제거하고 간질 뇌파의 특징을 강조하며 신경망의 입력노드수를 줄였다. 전문가에 의해서 분류된 간질특성과 정상뇌파를 신경망에 입력시켜 최적의 신경망구조를 선택하였고, 검출 문턱치를 설정하였다. 신경망은 200ms(26개의 데이터포인트)신호의 웨이브렛 결과와 웨이브렛 변환후 데이터 상의 최대, 최소 기울기가 입력되어 전체 28개의 입력 노드로 구성하였다. 은닉층은 18노드, 문턱치값은 민감도와 선택도가 일치하는 0.65가 사용되었다. 결과로 임상 환자 데이터에 입력되어 78.54% 의 검출률을 보였다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2009년도 제40회 하계학술대회
• /
• pp.1873_1874
• /
• 2009

본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계한다. 제안된 RBF 뉴럴 네트워크는 은닉층의 활성함수로서 Fuzzy C-Means 클러스터링을 사용하며 더 나아가 모델의 최적화를 위해 PSO 알고리즘을 사용하여 은닉층의 노드 수와 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 NOx 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2011년도 한국컴퓨터종합학술대회논문집 Vol.38 No.1(A)
• /
• pp.477-479
• /
• 2011

본 논문에서는 1차원 은닉 마코프 모델을 2차원으로 확장하기 위하여 노드들의 마코프 특성이 인과적인 관계를 갖는 마코프 메쉬 모델을 이용하여 완전한 2차원 HMM의 구조를 갖는 모델을 제안한다. 마코프메쉬 모델은 이웃시스템을 통하여 이전의 시점을 정의하고, 인과적인 관계를 통하여 전이확률의 계산을 가능하게 한다. 또한 영상의 최적의 분할을 위하여 계층적 디리슐레 과정을 사전분포로 두어 고정된 상태의 수가 아닌 무한의 상태 수를 갖는 2차원 HMM을 제안한다. HDP로 정의된 사전분포와 관측된 표본 자료의 정보를 갖는 우도함수를 결합한 사후분포의 베이스 추정은 깁스샘플링 알고리즘을 이용하여 계산된다.

• 대한전자공학회:학술대회논문집
• /
• 대한전자공학회 2009년도 정보 및 제어 심포지움 논문집
• /
• pp.381-383
• /
• 2009

본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계하고 모델을 최적화하기 위하여 최적화 알고리즘인 PSO(Particle Swarm Optimization) 알고리즘을 이용하였다. 즉, 모델의 최적화에 주요한 영향을 미치는 모델의 파라미터들을 PSO 알고리즘을 이용하여 동정한다. 제안된 RBF 뉴럴 네트워크는 은닉층에서의 활성함수로서 일반적으로 많이 사용되어지는 가우시안 커널함수를 사용한다. 더 나아가 모델의 최적화를 위하여 각 커널함수의 중심값은 HCM 클러스터링에 기반을 두어 중심값을 결정하고, PSO 알고리즘을 통하여 가우시안 커널함수의 분포상수, 은닉층에서의 노드 수 그리고 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 Mackey-Glass 시계열 공정 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

• 한국전자통신학회논문지
• /
• 제15권3호
• /
• pp.433-438
• /
• 2020

무선망에서 통신 경로상의 노드들은 데이터 전달 시마다 전자기적 신호를 방출하므로 일련의 발생 신호들을 포착하여 분석하면 해당 경로가 노출 및 탐지될 수 있다. 악의적 도청자에 대응하는 방법의 하나로는 특정 노드들로 하여금 더미(거짓) 패킷을 생성하도록 하여 마치 데이터 경로상의 노드들처럼 보이도록 하는 것이다. 이 논문에서는 근원지와 도착지 간에 최단 경로를 한 번에 설정하면서 더미 패킷의 과도한 생성을 억제하는 패킷 전송 프로토콜을 제안한다. 시뮬레이션을 통해 통신 경로상의 노드 위치 기밀 수준을 검증한다.

• 한국정보과학회논문지:소프트웨어및응용
• /
• 제29권5호
• /
• pp.289-294
• /
• 2002

다층신경회로망 구조의 재구성은 회로망의 일반화 능력이나 효율성의 관점에서 중요한 문제로 연구되어왔다. 본 논문에서는 신경회로망에 학습된 은닉 지식들을 추출하여 조합함으로써 신경회로망의 구조를 재구성하는 새로운 방법을 제안한다. 먼저, 각 노드별로 학습된 대표적인 지역 규칙을 추출하여 각 노드의 불필요한 연결구조들을 제거한 후, 이들의 논리적인 조합을 통하여 중복 또는 상충되는 노드와 연결구조를 제거한다. 이렇게 학습된 지식을 분석하여 노드와 연결구조를 재구성한 신경회로망은 처음의 신경회로망에 비하여 월등히 감소된 구조 복잡도를 가지며 일반적으로 더 우수한 일반화 능력을 가지게 됨을 실험결과로서 제시하였다.