• 한국산학기술학회논문지
• /
• 제14권11호
• /
• pp.5930-5938
• /
• 2013

Erigen의 비국소 탄성이론을 이용한 S형상 점진기능재료 나노-스케일 판의 전단변형이론을 정식화하여 평형방성식을 유도하였다. 비국소 탄성이론은 미소 규모 효과를 고려할 수 있고 S형상함수는 점진기능재료의 정확한 특성 변화를 고려할 수 있다. 4변이 단순지지된 나노-스케일 판의 지배방정식을 풀기 위해 Navier 방법을 사용하였다. 거듭 제곱 지수와 비국소 변수의 효과를 나타내기 위한 나노-스케일 판의 해석적 좌굴하중을 제시하였고, 국소 탄성이론과의 관계를 수치해석 결과를 통하여 고찰하였다. 또한 (i) 거듭제곱 지수, (ii) 나노-스케일 판의 크기, (iii) 비국소 계수, (iv) 형상비 그리고 (v) 모드 수 등이 나노-스케일 판의 이축 무차원 좌굴하중에 미치는 효과에 대하여 관찰하였다. 본 연구의 결과를 검증하기 위해 참고문헌의 결과들과 비교 분석하였다.

• 실천공학교육논문지
• /
• 제13권2호
• /
• pp.233-242
• /
• 2021

본 논문에서는 비전공자들을 위한 교양과정으로, 기초 인공신경망 과목 커리큘럼을 설계하기 위해, 지도학습 인공신경망 매개변수 최적화 방법과 활성화함수에 대한 기초 교육 방법을 제안하였다. 이를 위해, 프로그래밍 없이, 매개 변수 최적화 해를 스프레드시트로 찾는 방법을 적용하였다. 본 교육 방법을 통해, 인공신경망 동작 및 구현의 기초 원리 교육에 집중할 수 있다. 그리고, 스프레드시트의 시각화된 데이터를 통해 비전공자들의 관심과 교육 효과를 높일 수 있다. 제안한 내용은 인공뉴런과 Sigmoid, ReLU 활성화 함수, 지도학습데이터의 생성, 지도학습 인공신경망 구성과 매개변수 최적화, 스프레드시트를 이용한 지도학습 인공신경망 구현 및 성능 분석 그리고 교육 만족도 분석으로 구성되었다. 본 논문에서는 Sigmoid 뉴런 인공신경망과 ReLU 뉴런 인공신경망에 대해 음수허용 매개변수 최적화를 고려하여, 인공신경망 매개변수 최적화에 대한 네가지 성능분석결과를 교육하는 방법을 제안하고 교육 만족도 분석을 실시하였다.

• 한국농공학회논문집
• /
• 제63권1호
• /
• pp.11-25
• /
• 2021

The objective of this study was to analyze the impact of activation functions on flood forecasting model based on Artificial neural networks (ANNs). The traditional activation functions, the sigmoid and tanh functions, were compared with the functions which have been recently recommended for deep neural networks; the ReLU, leaky ReLU, and ELU functions. The flood forecasting model based on ANNs was designed to predict real-time runoff for 1 to 6-h lead time using the rainfall and runoff data of the past nine hours. The statistical measures such as R2, Nash-Sutcliffe Efficiency (NSE), Root Mean Squared Error (RMSE), the error of peak time (ETp), and the error of peak discharge (EQp) were used to evaluate the model accuracy. The tanh and ELU functions were most accurate with R2=0.97 and RMSE=30.1 (㎥/s) for 1-h lead time and R2=0.56 and RMSE=124.6~124.8 (㎥/s) for 6-h lead time. We also evaluated the learning speed by using the number of epochs that minimizes errors. The sigmoid function had the slowest learning speed due to the 'vanishing gradient problem' and the limited direction of weight update. The learning speed of the ELU function was 1.2 times faster than the tanh function. As a result, the ELU function most effectively improved the accuracy and speed of the ANNs model, so it was determined to be the best activation function for ANNs-based flood forecasting.

• 전자공학회논문지S
• /
• 제36S권1호
• /
• pp.123-132
• /
• 1999

본 논문에서는 기존의 신경망 등화기의 비트 오류 확률 관점에서의 성능 향상을 위해 이차 시그모이드 함수를 활성 함수로 이용한 이차 시그모의 신경망 등화기를 제안한다. 비선형 왜곡을 보정하기 위해 사용되어온 기존의 신경망 등화기들은 일반적으로 활성 함수로서 시그모이드 함수를 이용한다. 기존의 시그모이드 함수를 이용한 신경망 등화기의 경우 하나의 뉴론은 한 개의 선형적인 경계 면을 형성한다. 따라서 복잡한 경계 면을 형성하기 위해 많은 수의 뉴론이 필요하게 된다. 하지만 제안하는 신경망을 등화기에서는 한 뉴론이 평행한 두 개의 직선을 가지고 평면 영역을 분할하기 때문에 보다 간단한 구조로 비트 오류 확률 관점에서 우수한 성능을 얻을 수 있다. 제안한 이차 시그모이드 신경망 결정궤한 등화기를 통신 환경 및 디지털 자기기록 시스템에 적용하였을 때, 기존의 결정궤환 등화기와 신경망 결정궤한 등화기에 비해 같은 비트 오류 확률 관점에서 신호 대 잡음비가 1.5dB~8.3dB 정도의 성능향상을 보인다. 특히 심벌간의 간섭이 심하거나, 비선형성이 강한 환경에서 기존의 일반적인 결정궤한 등화기와 신경망 결정궤한 등화기에 비하여 비트 오류 확률 관점에서 두드러진 신호 대 잡음비의 성능 이득을 보인다.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1992년도 한국자동제어학술회의논문집(국내학술편); KOEX, Seoul; 19-21 Oct. 1992
• /
• pp.224-229
• /
• 1992

We investigate a neural network as a dynamic system controller when system characteristics are abruptly changing. The shape of sigmoid functions are determined by autotuing method for the optimum sigmoid function of the neural networks. By using information stored in the identifying network a novel algorithm that can adapt the control action of the controller has been developed. Robustness can be seen from its ability to adjust large variations of parameters. The potential of the proposed method is demonstrated by simulations.

• 전자공학회논문지 IE
• /
• 제44권3호
• /
• pp.12-22
• /
• 2007

본 논문에서는 잉여수체계(Residue Number System)를 이용하여 고속의 디지털 신경회로망을 제안하고 이를 구현하기 위한 중요연산부인 고속의 디지털 뉴런프로세서를 설계하였다. 설계된 디지털 뉴런프로세서는 잉여수계를 이용한 MAC 연산기와 혼합계수 변환을 이용한 시그모이드 함수 연산 부로 구성되며, 설계된 회로는 VHDL로 기술하였고 Compass 툴로 합성하였다. 실험결과, 본 논문에서 설계한 디지털 뉴런프로세서는 19.2nsec의 속도를 보였으며, 실수연산기로 설계한 뉴런프로세서에 비하여 약 50%정도 하드웨어 크기를 줄일 수 있었다. 본 논문에서 설계한 뉴런프로세서는 실시간 처리를 요하는 병렬분산처리 시스템에 적용될 수 있을 것으로 기대된다.

• 전자공학회논문지C
• /
• 제35C권2호
• /
• pp.56-64
• /
• 1998

Multi-layered perceptrons that are a nonlinear neural network model, have been widely used for various applications mainly thanks to good function approximation capability for nonlinear fuctions. However, for digital hardware implementation of the multi-layere perceptrons, the quantization scheme using "look-up tables (LUTs)" is commonly employed to handle nonlinear signmoid activation functions in the neworks, and thus requires large amount of storage to prevent unacceptable quantization errors. This paper is concerned with a new effective methodology for digital hardware implementation of multi-layered perceptrons, and proposes a "piecewise affine approximation" method in which input domain is divided into (small number of) sub-intervals and nonlinear sigmoid function is linearly approximated within each sub-interval. Using the proposed method, we develop an expression and an error backpropagation type learning algorithm for a multi-layered perceptron, and compare the performance with the quantization method through Monte Carlo simulations on XOR problems. Simulation results show that, in terms of learning convergece, the proposed method with a small number of sub-intervals significantly outperforms the quantization method with a very large storage requirement. We expect from these results that the proposed method can be utilized in digital system implementation to significantly reduce the storage requirement, quantization error, and learning time of the quantization method.quantization method.

• 한국통신학회논문지
• /
• 제22권9호
• /
• pp.2035-2042
• /
• 1997

비동기 부호 분할 다중 접속(Code Division Multiple Access: CDMA) 시스템을 위한 다단(mutistage) 간섭 제거 검출기의 매 단에서 기존에 사용되어 온 경판정(hard decision)을 대신할 수 있는 연판정(soft decision) 함수의 설계를 고려한다. 특히, 평균 제곱 오류(mean square error: MSE)의 관점에서 최적인 시그모이드(sigmoid) 함수와 구현시 복잡도를 줄이면서 시그모이드 함수를 가장 잘 근사화하는 다단계 양자화기(multu-level quantizer)들을 유도한다. 다단 검출기의 매 단에서 이들 판정 함수들의 변수는 산출된 입력 특성에 의해 조정된다. 컴퓨터 모의 실험을 통하여 이들 연판정 함수를 갖는 다단 검출기가 경판정을 사용하는 경우보다 현저하게 성능을 향상시킴을 보인다.

• 한국정보과학회논문지:소프트웨어및응용
• /
• 제31권11호
• /
• pp.1474-1482
• /
• 2004

본 논문에서는 적응적 가중치 함수를 이용하여 블록 단위의 모션 벡터를 필터링하는 방법을 제안한다. 제안하는 방법에서는 먼저 인접한 영상을 받아 들여 가변적 크기의 블록 정합 방법을 이용하여 모션 벡터를 추출한다. 그리고 추출된 모션 벡터를 강건 예측에 적용하여 아웃라이어(outlier)를 제거함으로써 강건 예측에서 사용하는 동작 모델에 근접한 모션 벡터만을 추출한다. 제안된 적응적 강건 예측은 연속적인 시그모이드 가중치 함수를 사용하여 정상 자료와 아웃라이어의 소속 정도를 보다 효과적으로 표현한다. 또한, 최소화 기법의 반복 단계에서 잔여에러가 감소함에 따라 점진적으로 시그모이드 가중치 함수를 조율함으로써 정상 자료와 아웃라이어를 보다 유연하게 분리한다. 실험에서는 카메라의 동작이 포함된 비디오 데이타를 입력 받아 성능을 비교 분석함으로써 제안한 방법의 우수함을 보인다.

• KSII Transactions on Internet and Information Systems (TIIS)
• /
• 제14권8호
• /
• pp.3519-3533
• /
• 2020

Tuberculosis is a chronic and delayed infection which is easily experienced by young people. According to the statistics of the World Health Organization (WHO), there are nearly ten million fell ill with tuberculosis and a total of 1.5 million people died from tuberculosis in 2018 (including 251000 people with HIV). Tuberculosis is the largest single infectious pathogen that leads to death. In order to help doctors with tuberculosis diagnosis, we compare the tuberculosis classification abilities of six popular convolutional neural network (CNN) models in the same data set to find the best model. Before training, we optimize three parts of CNN to achieve better results. We employ sigmoid function to replace the step function as the activation function. What's more, we use binary cross entropy function as the cost function to replace traditional quadratic cost function. Finally, we choose stochastic gradient descent (SGD) as gradient descent algorithm. From the results of our experiments, we find that Densenet121 is most suitable for tuberculosis diagnosis and achieve a highest accuracy of 0.835. The optimization and expansion depend on the increase of data set and the improvements of Densenet121.