• 한국정보통신학회:학술대회논문집
• /
• 한국해양정보통신학회 1999년도 추계종합학술대회
• /
• pp.214-217
• /
• 1999

본 논문에서는 시그모이드 함수와 시그모이드 함수의 도함수로 유도한 RBF의 직교관계에 착안하여 은닉충에 직교함수를 활성화함수로 갖는 신경회로망을 제안한다. 제안하는 신경회로망을 직교신경회로망(ONN)이라고 한다. 제안한 방식의 유용성을 확인하기 위하여 비선형 함수의 근사 시뮬레이션에 의해 사상능력을 검토하고, 각각의 단일함수만을 적용한 경우와 비교·검토한다.

• 한국콘텐츠학회논문지
• /
• 제10권4호
• /
• pp.10-18
• /
• 2010

본 논문에서는 유전자알고리즘을 이용한 시그모이드 활성화 함수 파라미터의 최적화와 이중나선기준문제(two spirals benchmark problem)의 입력공간 패턴인식 상태를 분석 한다. 실험을 위하여 캐스케이드 코릴레이션 학습 알고리즘(Cascade Correlation learning algorithm)을 이용한다. 첫 번째 실험에서는 기본적인 시그모이드 활성화 함수를 사용하여 이중나선 문제를 분석하고, 두 번째 실험에서는 시그모이드 활성화 함수(sigmoidal activation function)의 파라미터 값이 서로 다른 함수를 사용하여 8개의 풀을 구성한다. 세 번째 실험에서는 시그모이드 함수의 변위를 결정하는 세 개의 파라미터 값을 유전자 알고리즘을 이용하여 얻고 이 파라미터 값들이 적용된 시그모이드 함수들은 후보뉴런의 활성화를 위해서 사용된다. 이러한 알고리즘의 성능평가를 위하여 각 학습단계 마다 입력패턴공간에서 인식된 이중나선의 형태를 보여준다.

• 정보학연구
• /
• 제4권3호
• /
• pp.155-163
• /
• 2001

디지털 신경회로망의 구현에 있어 시그모이드 함수의 구현은 매우 복잡하고 구현하기 어렵다. 따라서, 본 논문에서는 디지털 신경회로망 구현에 문제가 되는 시그모이드 함수처리를 위한 설계 방법을 제안하였다. 제안된 방법은 잉여수계를 이용하여 MAC(Multiplier and Accumulator) 연산 시, 캐리 전파 없이 고속의 연산을 수행할 수 있고 시그모이드 함수처리를 고속으로 수행할 수 있다. 모의실험결과, 각각의 신경 프로세스에 있어서 4.6nsec 이상의 속도를 보임으로써 고속디지털 신경회로망 구현에 적용될 수 있을 것으로 기대된다.

• 한국산학기술학회논문지
• /
• 제15권3호
• /
• pp.1724-1733
• /
• 2014

본 논문에서는 비모노톤함수(non-monotone function)인 CosExp(cosine-modulated symmetric Exponential function) 함수와 모노톤함수(monotone function)인 시그모이드 함수를 캐스케이드 코릴레이션 알고리즘(Cascade Correlation algorithm)의 학습에 병행해서 사용하여 이중나선문제(two spirals problem)의 패턴인식에 어떠한 영향이 있는지 분석하고 이어서 알고리즘의 최적화를 시도한다. 첫 번째 실험에서는 알고리즘의 후보뉴런에 CosExp 함수를 그리고 출력뉴런에는 시그모이드 함수를 사용하여 나온 인식된 패턴을 분석한다. 두 번째 실험에서는 반대로 CosExp 함수를 출력뉴런에서 사용하고 시그모이드 함수를 후보뉴런에 사용하여 실험하고 결과를 분석한다. 세 번째 실험에서는 후보뉴런을 위한 8개의 풀을 구성하여 변형된 다양한 시그모이드 활성화 함수(sigmoidal activation function)를 사용하고 출력뉴런에는 CosExp함수를 사용하여 얻게 된 입력공간의 인식된 패턴을 분석한다. 네 번째 실험에서는 시그모이드 함수의 변위를 결정하는 세 개의 파라미터 값을 유전자 알고리즘을 이용하여 얻는다. 이 파라미터 값들이 적용된 시그모이드 함수들은 후보뉴런의 활성화를 위해서 사용되고 출력뉴런에는 CosExp 함수를 사용하여 실험한 최적화 된 결과를 분석한다. 이러한 알고리즘의 성능평가를 위하여 각 학습단계 마다 입력패턴공간에서 인식된 이중나선의 형태를 그래픽으로 보여준다. 최적화 과정에서 은닉뉴런(hidden neuron)의 숫자가 28에서 15로 그리고 최종적으로 12개로 줄어서 학습 알고리즘이 최적화되었음을 확인하였다.

• 전기전자학회논문지
• /
• 제22권1호
• /
• pp.197-200
• /
• 2018

본 논문에서는 하드웨어레벨로 구현이 어렵고 속도가 느린 sigmoid 함수를 PLAN을 이용하여 근사치로 출력하였다. 이를 MLP 구조의 활성화 함수로 사용하여 자원소모를 줄이고 속도를 개선하고자 하였다. 본 논문에서 제안하는 방법은 $5{\times}5$크기의 숫자 인식에 약 95%의 정확도를 유지하면서 GPGPU보다 약 1.83배의 빠른 속도를 보였다. 또한 MLPA가속기와 비슷한 자원을 사용함에도 더 많은 뉴런을 사용하여 높은 정확도에 빠른 속도로 수렴하는 것을 확인하였다.

• 정보처리학회논문지D
• /
• 제11D권4호
• /
• pp.885-892
• /
• 2004

소프트웨어 시험단계에 투입되는 노력의 분포를 추정하는 대표적인 모델로 Weibull 분포(Rayleigh와 지수분포 포함)가 있다. 이 모델은 시험 시작시점에서 실제로 많은 노력이 투입되는 점을 표현하지 못한다. 또한 다양한 형태를 갖고 있는 실제 시험 노력의 분포를 적절히 표현하지 못하고 있다. 이러한 문제점을 해결하기 위해 본 논문은 시그모이드 모델을 제안하였다. 신경망 분야에서 적용되고 있는 시그모이드 함수로부터 소프트웨어 시험 노력을 적절히 표현할 수 있도록 함수 형태를 변형시켰다 제안된 모델은 다양한 분포 형태를 보이고 있는 실제 수행된 소프트웨어 프로젝트로부터 얻어진 6개의 시험 노력 데이터에 적용하여 적합성을 검증하였다. 제안된 시그모이드 모델은 기존의 Weibull 모델보다 성능이 우수하여 소프트웨어 시험노력을 추정하는데 있어 와이블 모델의 대안으로 채택될 수 있을 것이다.

• 한국통신학회논문지
• /
• 제22권9호
• /
• pp.2035-2042
• /
• 1997

비동기 부호 분할 다중 접속(Code Division Multiple Access: CDMA) 시스템을 위한 다단(mutistage) 간섭 제거 검출기의 매 단에서 기존에 사용되어 온 경판정(hard decision)을 대신할 수 있는 연판정(soft decision) 함수의 설계를 고려한다. 특히, 평균 제곱 오류(mean square error: MSE)의 관점에서 최적인 시그모이드(sigmoid) 함수와 구현시 복잡도를 줄이면서 시그모이드 함수를 가장 잘 근사화하는 다단계 양자화기(multu-level quantizer)들을 유도한다. 다단 검출기의 매 단에서 이들 판정 함수들의 변수는 산출된 입력 특성에 의해 조정된다. 컴퓨터 모의 실험을 통하여 이들 연판정 함수를 갖는 다단 검출기가 경판정을 사용하는 경우보다 현저하게 성능을 향상시킴을 보인다.

• 한국정보통신학회논문지
• /
• 제4권1호
• /
• pp.145-154
• /
• 2000

본 논문에서는 제어대상의 사전정보가 미지인 경우의 동정 및 제어를 위하여 직교함수 신경회로망을 제안한다. 제안하는 직교함수 신경회로망은 은닉층 앞에 버퍼층을 사용하고 은닉층에는 시그모이드 함수와 시그모이드 함수의 도함수로 유도한 RBF를 이용한 직교함수를 사용하였다. 제안한 방식의 유용성을 확인하기 위하여 Narendra 모델의 동정 시뮬레이션에 의해 동정능력을 검토하였다. 또한, 제어 시스템을 구성하고 시뮬레이션 및 실험을 통하여 유용성을 확인하였다.

• 전자공학회논문지S
• /
• 제36S권1호
• /
• pp.123-132
• /
• 1999

본 논문에서는 기존의 신경망 등화기의 비트 오류 확률 관점에서의 성능 향상을 위해 이차 시그모이드 함수를 활성 함수로 이용한 이차 시그모의 신경망 등화기를 제안한다. 비선형 왜곡을 보정하기 위해 사용되어온 기존의 신경망 등화기들은 일반적으로 활성 함수로서 시그모이드 함수를 이용한다. 기존의 시그모이드 함수를 이용한 신경망 등화기의 경우 하나의 뉴론은 한 개의 선형적인 경계 면을 형성한다. 따라서 복잡한 경계 면을 형성하기 위해 많은 수의 뉴론이 필요하게 된다. 하지만 제안하는 신경망을 등화기에서는 한 뉴론이 평행한 두 개의 직선을 가지고 평면 영역을 분할하기 때문에 보다 간단한 구조로 비트 오류 확률 관점에서 우수한 성능을 얻을 수 있다. 제안한 이차 시그모이드 신경망 결정궤한 등화기를 통신 환경 및 디지털 자기기록 시스템에 적용하였을 때, 기존의 결정궤환 등화기와 신경망 결정궤한 등화기에 비해 같은 비트 오류 확률 관점에서 신호 대 잡음비가 1.5dB~8.3dB 정도의 성능향상을 보인다. 특히 심벌간의 간섭이 심하거나, 비선형성이 강한 환경에서 기존의 일반적인 결정궤한 등화기와 신경망 결정궤한 등화기에 비하여 비트 오류 확률 관점에서 두드러진 신호 대 잡음비의 성능 이득을 보인다.

• 실천공학교육논문지
• /
• 제13권2호
• /
• pp.233-242
• /
• 2021

본 논문에서는 비전공자들을 위한 교양과정으로, 기초 인공신경망 과목 커리큘럼을 설계하기 위해, 지도학습 인공신경망 매개변수 최적화 방법과 활성화함수에 대한 기초 교육 방법을 제안하였다. 이를 위해, 프로그래밍 없이, 매개 변수 최적화 해를 스프레드시트로 찾는 방법을 적용하였다. 본 교육 방법을 통해, 인공신경망 동작 및 구현의 기초 원리 교육에 집중할 수 있다. 그리고, 스프레드시트의 시각화된 데이터를 통해 비전공자들의 관심과 교육 효과를 높일 수 있다. 제안한 내용은 인공뉴런과 Sigmoid, ReLU 활성화 함수, 지도학습데이터의 생성, 지도학습 인공신경망 구성과 매개변수 최적화, 스프레드시트를 이용한 지도학습 인공신경망 구현 및 성능 분석 그리고 교육 만족도 분석으로 구성되었다. 본 논문에서는 Sigmoid 뉴런 인공신경망과 ReLU 뉴런 인공신경망에 대해 음수허용 매개변수 최적화를 고려하여, 인공신경망 매개변수 최적화에 대한 네가지 성능분석결과를 교육하는 방법을 제안하고 교육 만족도 분석을 실시하였다.