• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 2004년도 춘계학술대회 학술발표 논문집 제14권 제1호
• /
• pp.434-437
• /
• 2004

본 논문에서는 유전자 알고리즘에 기반을 둔 자기구성 다항식 뉴럴네트워크(Self-Organizing Polynomial Neural Networks： SOPNN)의 새로운 구조를 제안하고, 포괄적인 설계 방법론을 토의한다. 기존의 자기구성 다항식 뉴럴 네트워크는 확장된 GMDH 방법에 기반을 두며, 네트워크의 성장과정을 통하여 각 충의 다항식 뉴런에서 고정된 노드 입력들의 수 뿐만 아니라 다항식 차수(1차, 2차, 그리고 수정된 2차식)를 이용하였다. 더구나, 그 방법은 학습을 통해 생성된 SOPNN이 최적 네트워크 구조를 가진다는 것을 보증하지 못한다. 그러나, 제안된 GA 기반 SOPNN은 그 구조를 구조적으로 더 최적화된 네트워크가 되도록 하고, 기존의 SOPNN보다 훨씬 더 유연하고, 선호된 뉴럴 네트워크가 되도록 한다. 구조적으로 더 최적화된 SOPNN을 생성하기 위해, SOPNN의 각 단계에서의 GA기반 설계 절차는 SOPNN내에서 이용할 수 있는 다음의 최적 파라미터들- 즉 입력변수의 수, 입력변수, 및 다항식 차수-을 가진 선호된 노드들의 선택으로 이끈다. 하중계수를 가진 합성성능지수가 그 모델의 근사화 및 일반화(예측) 능력 사이의 상호 균형을 얻기 위해 제안된다. 상세 설계 절차가 상세히 토의된다.

• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 2004년도 춘계학술대회 학술발표 논문집 제14권 제1호
• /
• pp.442-445
• /
• 2004

본 논문은 유전자 기반 퍼지다항식 뉴럴네트워크(Genetic based fuzzy polynomial neural networks： gFPNN)를 제안한다. gFPNN 구조는 퍼지집합을 기반으로 설계되며, 유전자 알고리즘에 의해 구조 및 파라미터를 최적화한 구조이다. 퍼지집합을 기반으로 설계되어진 퍼지뉴럴네트워크는 간략추론 구조와 선형추론 구조로 설계된다. 본 논문에서는 간략추론 및 선형추론 구조를 통합 및 확장한 퍼지다항식 뉴럴네트워크를 설계한다. 이 구조는 연결가중치를 이용하여 회귀다항식을 네트워크 구조로 표현하며, 간략추론(Type 0), 선형추론(Type 1), 회귀다항식추론(Type 2)을 모두 포함한다. 또한 퍼지규칙 후반부의 다항식 차수를 각 규칙에 대해 다르게 선택할 수 있으며, 일률적인 형식의 구조를 벗어나 주어진 시스템의 특성에 따라 유연한 구조를 설계할 수 있도록 한다. 여기에 더하여, 네트워크 구조와 파라미터 동조에 유전자 알고리즘을 적용하며, 구조와 파라미터 동정에 대한 효율적인 방법을 논의한다. 제안된 모델의 평가를 위해 수치예제를 이용한다.

• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 2004년도 춘계학술대회 학술발표 논문집 제14권 제1호
• /
• pp.303-306
• /
• 2004

기존의 퍼지 규칙에 기반을 둔 퍼지 다항식 뉴론(FPN)들로 구성된 SOFPNN은 데이터 수가 적고 비선형 요소가 많은 시스템에 대한 체계적이고 효율적인 최적 모델 을 구축할 수 있었으며 각 층 노드의 선택 입력을 변화시킴으로써 네트워크 구조 전체의 적응능력을 향상 시켰다. 유전자 알고리즘을 이용하여 자기구성 퍼지 다항식 뉴럴 네트워크의 입력변수의 수와 이에 해당되는 입력변수 그리고 규칙 후반부 다항식의 차수를 탐색하여 최적 의 자기구성 퍼지 다항식 뉴럴 네트워크를 구축한다. 그러나, SOFPNN의 기본 뉴론인 퍼지 규칙 기반 다항식 뉴론의 경우 입력변수가 많아질수록 규칙수가 기하급수적으로 증가한다는 단점을 가지고 있으나 본 노문에서 제안한 퍼지 집합 기반 다항식 뉴론(FSPN)의 규칙수는 입력 변수들이 서로 독립적이므로 규칙의 증가가 퍼지 규칙 기반 다항식 뉴런보다는 적다는 장점을 가지고 있다. 이러한 특성을 기반으로 기존의 SOFPNN의 노드에 퍼지 규칙 기반 다항식 뉴런 대신에 퍼지 집합 기반 다항식 뉴런을 적용한 SOFPNN을 제안하여 기존의 SOFPNN과 성능을 비교하였다. 최적의 자기 구성 퍼지 집합기반 다항식 뉴럴 네트워크를 구축하기 위하여 SOFPNN에서처럼 유전자 알고리즘을 이용하여 네트워크의 입력변수의 수와 이에 해당되는 입력변수 그리고 규칙 후반부 다항식의 차수를 탐색하였다.

• 한국지능시스템학회논문지
• /
• 제21권1호
• /
• pp.12-18
• /
• 2011

본 논문에서는 RBF 뉴럴 네트워크에서 은닉층 활성함수에 Interval type-2 퍼지개념을 적용한 새로운 RBF 뉴럴 네트워크를 설계하였다. 퍼지 시스템 분야에서 불확실한 정보에 대한 Type-1 퍼지집합의 성능을 보안하고자 Type-2 퍼지집합이 제안되었으며, 멤버쉽함수 안에 다시 멤버쉽함수를 생성함으로써 불확실한 정보를 좀 더 효과적으로 다루고자 하였다. 따라서 본 논문에서는 RBF 뉴럴 네트워크의 은닉층 활성함수에 type-2 퍼지집합의 개념을 적용하여 불확실한 정보에 대한 모델 성능을 개선하고자 하였다. 나아가 연결가중치를 상수항이 아닌 1차식으로 구성된 다항식을 사용하여 최종출력을 입력-출력의 관계식으로 표현하였다. 연결가중치는 기존의 경사하강법(Gradient Descent Method; GDM) 대신 conjugate gradient method(CGM)을 사용하여 파라미터를 동조하고, 은닉층의 활성함수는 공간탐색 진화 알고리즘(Space Search Evolutionary Algorithm; SSEA)을 이용하여 가우시안 함수의 중심점 및 분포상수를 동조하여 모델의 성능을 개선시킨다. 제안된 모델의 성능을 평가하기 위해 가스로 시계열 데이터를 사용하였으며, 결과를 기존 모델과 비교하였다.

• 한국산학기술학회논문지
• /
• 제19권12호
• /
• pp.7-13
• /
• 2018

콘크리트 강도는 시멘트, 물, 자갈, 모래 그리고 혼화재 등 내부영향요인뿐만 아니라 실제 현장에서 발생하는 현장기온과 타설지연시간 등 외부영향요인의 영향을 받게 된다. 본 연구의 목적은 콘크리트 배합설계 시 내부영향요인과 외부영향요인을 고려하여 현장 콘크리트 타설시 최적의 콘크리트 강도를 확보하는 것이다. 본 연구에서는 내부영향요인과 외부영향요인에 대한 수준을 정의하고, 모두 24개의 조합에 대한 콘크리트 강도 테스트를 한 후 콘크리트 강도예측 뉴럴 네트워크 모델을 개발했다. 본 콘크리트 강도예측 뉴럴 네트워크 모델은 현장 콘크리트 타설 시 현장기온과 타설지연시간을 고려하여 콘크리트 강도를 예측하는 기능을 제공한다. 본 콘크리트 강도예측 뉴럴 네트워크 모델은 내부영향요인과 외부영향요인을 분석하고 실제 현장에서 콘크리트를 타설할 때 양생온도와 타설지연시간을 뉴럴 네트워크 입력변수로 처리하여 콘크리트 강도를 예측하는 기능을 제공한다. 시공사는 콘크리트 강도예측 결과를 활용하여 콘크리트 배합을 조정함으로써 현장타설 콘크리트 강도를 관리할 수 있을 것이다.

• 한국산업정보학회:학술대회논문집
• /
• 한국산업정보학회 2002년도 춘계학술대회 논문집
• /
• pp.361-366
• /
• 2002

자기결합을 갖고 결합하중치가 비대칭인 순환결합형 뉴럴네트워크는 복수 개의 리미트사이클이 기억 가능하다는 것이 알려져 있다. 현재까지 이산시간 모델의 네트워크에 대한 상태천이 해석은 상세하게 이루어져 왔다. 그러나 연속시간모델에 대한 해석은 네트워크 규모의 증가에 따른 급격한 계산량의 증가 때문에 연구가 그다지 활발하게 이루어지지 않고 있다. 본 논문에서는 연속시간모델 뉴럴네트워크에 대한 상태천 이를 조사하여 이산시간 모델에서 기억가능한 리미트사이클과의 차이점을 분석한다. 또한 연속시간 네트워크 모델에 카오스 신호를 인가하여 리미트사이클간의 천이를 제어할 수 있는 가능성을 분석하여 동적정보처리에의 네트워크 응용가능성을 검토한다.

• 대한전기학회:학술대회논문집
• /
• 대한전기학회 2009년도 제40회 하계학술대회
• /
• pp.1873_1874
• /
• 2009

본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계한다. 제안된 RBF 뉴럴 네트워크는 은닉층의 활성함수로서 Fuzzy C-Means 클러스터링을 사용하며 더 나아가 모델의 최적화를 위해 PSO 알고리즘을 사용하여 은닉층의 노드 수와 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 NOx 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

• 인지과학
• /
• 제28권4호
• /
• pp.299-314
• /
• 2017

In-silico 기반의 약물-표적 단백질 연관관계 예측은 신약 탐색 단계에서 매우 중요하다. 그러나 기존의 예측모델은 입력 값이 고정적이며 표적 단백질의 특질 값이 가공된 데이터로 한정됨으로써 예측 모델의 확장성과 유연성이 부족하다. 본 논문에서는 약물-표적 단백질 연관관계를 예측하는 확장 가능한 형태의 머신러닝 모델을 소개한다. 확장 가능한 머신러닝 모델의 핵심 아이디어는 쌍기반의 뉴럴 네트워크로써, 약물과 단백질의 미가공 데이터를 사용하여 특질을 추출하고 특질 값을 각각의 뉴럴 네트워크 레이어에 입력한다. 이 방법은 추가적인 지식없이 자동적으로 약물과 단백질의 특질을 추출한다. 또한 쌍기반 레이어는 특질 값을 풍부한 저차원의 벡터로 향상 시킴으로써 입력 값의 차이로 인한 편향 학습을 방지한다. PubChem BioAssay(PCBA) 데이터 셋에 기반한 5-폴드 교차 검증법을 통하여 제안한 모델의 성능을 평가했으며, 이전의 모델보다 우월한 성능을 보였다.

• 전자공학회논문지CI
• /
• 제39권3호
• /
• pp.18-31
• /
• 2002

본 연구는 뉴로퍼지 네트워크와 다항식 뉴럴네트워크를 합성한 하이브리드 모델링 구조인 고급 뉴로퍼지 다항식 네트워크(Advanced neurofuzzy polynomial networks ; ANFPN)를 제안한다. 제안된 네트워크 구조는 높은 비선형 규칙 기반 모델로, CI(Computational Intelligence)의 기술, 즉 퍼지집합, 뉴럴네트워크, 유전자 알고리즘에 의해 설계되어진다. 뉴로퍼지 네트워크는 ANFPN 구조의 전반부를, 다항식 뉴럴네트워크는 후반부를 구성한다. ANFPN의 전반부에서, 뉴로퍼지 네트워크는 간략추론, 오류역전파 학습 규칙을 이용한다. 멤버쉽함수의 파라미터, 학습율, 모멘텀 계수는 유전자 최적화를 이용하여 조절된다. ANFPN의 후반부 구조로서 다항식 뉴럴네트워크는 학습을 통해 생성되는(전개되는) 유연한 네트워크 구조이다. 특히 다항식 뉴럴네트워크의 층과 노드 수는 고정되어 있지 않고 동적으로 생성된다. 본 연구에서는, 2가지 형태의 ANFPN 구조를 제안한다. 즉 기본 구조와 변형된 구조이다. 여기서 기본 구조와 변형된 구조는 다항식 뉴럴네트워크 구조의 각 층에서 입력변수의 수와 회귀다항식의 차수에 의존한다. 두 결합 구조의 특징 때문에 공정 시스템의 비선형적인 특성을 고려할 수 있고 보다 우수한 예측능력을 가진 좋은 출력선응을 얻을 수 있게 한다. ANFPN의 유용성과 실용성은 2개의 수치 예제를 통해 논의된다. 제안된 ANFPN은 기존의 모델보다 높은 정밀도와 예측능력을 가진 모델을 생성함을 보인다.

• 한국방송∙미디어공학회:학술대회논문집
• /
• 한국방송∙미디어공학회 2020년도 추계학술대회
• /
• pp.64-67
• /
• 2020

최근 다양한 분야에서 딥 러닝 기반의 많은 연구가 진행되고 있으며 이에 따라 딥 러닝 모델의 경량화를 통해 제한된 메모리를 가진 하드웨어에 올릴 수 있는 경량화 된 딥 뉴럴 네트워크(DNN)를 개발하는 연구도 활발해졌다. 이에 본 논문은 주파수 영역에서의 군집화 기반 계층별 딥 뉴럴 네트워크 압축을 제안한다. 이산 코사인 변환, 양자화, 군집화, 적응적 엔트로피 코딩 과정을 각 모델의 계층에 순차적으로 적용하여 DNN이 차지하는 메모리를 줄인다. 제안한 알고리즘을 통해 VGG16을 손실률은 1% 미만의 손실에서 전체 가중치를 3.98%까지 압축, 약 25배가량 경량화 할 수 있었다.