• Title/Summary/Keyword: Single-Hidden-Layer Neural Network

Search Result 43, Processing Time 0.036 seconds

Random generator-controlled backpropagation neural network to predicting plasma process data

  • Kim, Sungmo;Kim, Sebum;Kim, Byungwhan
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 ISIS 2003
    • /
    • pp.599-602
    • /
    • 2003
  • A new technique is presented to construct predictive models of plasma etch processes. This was accomplished by combining a backpropagation neural network (BPNN) and a random generator (RC). The RG played a critical role to control neuron gradients in the hidden layer, The predictive model constructed in this way is referred to as a randomized BPNN (RG-BPNN). The proposed scheme was evaluated with a set of experimental plasma etch process data. The etch process was characterized by a 2$^3$ full factorial experiment. The etch responses modeled are 4, including aluminum (Al) etch rate, profile angle, Al selectivity, and do bias. Additional test data were prepared to evaluate model appropriateness. The performance of RC-BPNN was evaluated as a function of the number of hidden neurons and the range of gradient. for given range and hidden neurons, 100 sets of random neuron gradients were generated and among them one best set was selected for evaluation. Compared to the conventional BPNN, the proposed RC-BPNN demonstrated about 50% improvements in all comparisons. This illustrates that the RG-BPNN of multi-valued gradients is an effective way to considerably improve the predictive ability of current BPNN of single-valued gradient.

  • PDF

Efficient Multi-scalable Network for Single Image Super Resolution

  • Alao, Honnang;Kim, Jin-Sung;Kim, Tae Sung;Lee, Kyujoong
    • Journal of Multimedia Information System
    • /
    • 제8권2호
    • /
    • pp.101-110
    • /
    • 2021
  • In computer vision, single-image super resolution has been an area of research for a significant period. Traditional techniques involve interpolation-based methods such as Nearest-neighbor, Bilinear, and Bicubic for image restoration. Although implementations of convolutional neural networks have provided outstanding results in recent years, efficiency and single model multi-scalability have been its challenges. Furthermore, previous works haven't placed enough emphasis on real-number scalability. Interpolation-based techniques, however, have no limit in terms of scalability as they are able to upscale images to any desired size. In this paper, we propose a convolutional neural network possessing the advantages of the interpolation-based techniques, which is also efficient, deeming it suitable in practical implementations. It consists of convolutional layers applied on the low-resolution space, post-up-sampling along the end hidden layers, and additional layers on high-resolution space. Up-sampling is applied on a multiple channeled feature map via bicubic interpolation using a single model. Experiments on architectural structure, layer reduction, and real-number scale training are executed with results proving efficient amongst multi-scale learning (including scale multi-path-learning) based models.

음성인식 시스템에서의 음소분할기의 성능 (Performance of the Phoneme Segmenter in Speech Recognition System)

  • 이광석
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2009년도 추계학술대회
    • /
    • pp.705-708
    • /
    • 2009
  • 본 연구는 자연음성의 인식을 위하여 신경회로망을 기초로 한 음소 분할기에 대하여 기술하였다. 자연음성의 인식을 위한 음소 분할기의 입력으로는 16차 멜 스케일의 FFT, 정규화된 프레임 에너지, 0~3[KHz] 주파수 대역 및 그 이상의 대역에서의 에너지 비를 사용하였다. 모든 특징들은 두개의 연속적인 10[msec] 프레임의 차이며, 본 연구에 사용한 음소분할기는 하나의 72입력을 가지는 은닉층 퍼셉트론, 20은닉노드 및 하나의 출력노드로 구성하여 사용하였다. 자연음성에 대한 음소분할의 정확도는 7.8%삽입을 가지는 78%를 얻을 수 있었다.

  • PDF

신경회로망을 이용한 스마트 무인기용 가스터빈 엔진의 성능진단에 관한 연구 (A Study on Performance Diagnostic of Smart UAV Gas Turbine Engine using Neural Network)

  • 공창덕;기자영;이창호
    • 한국추진공학회지
    • /
    • 제10권2호
    • /
    • pp.15-22
    • /
    • 2006
  • PW206C 터보 축 엔진을 위해 신경회로망을 이용한 지능형 성능 진단 프로그램이 제안되었다. 이 엔진은 항공우주연구원에서 개발 중에 있는 틸트 로터 타입 스마트 무인기의 추진시스템으로 선정되었다. 1개의 은닉층, 입력층, 출력층을 가지는 BPN(Back Propagation Network)이 신경회로망을 학습시키기 위해 이용되었다 입력층은 7개의 뉴런을 가지는데 SHP, MF, PT2, TT2, PT4, TT4 및 TT5와 같은 측정파라미터이며 출력층은 6개의 뉴런으로 구성되어 있으며 각각은 압축기, 압축기 터빈, 동력 터빈의 유량함수 및 효율이다. 신경망을 훈련하고 테스트하기 위한 데이터 베이스는 가스터빈 성능모사 프로그램을 이용하여 구성하였다. 훈련된 신경망을 PW206C 터보 축 엔진의 진단에 적용한 결과 제안된 진단 알고리즘이 압축기 오염과 압축기 터빈의 침식과 같은 단일 손상을 탐지하는데 유용함을 확인하였다.

Radial Basis 함수를 이용한 동적 - 단기 전력수요예측 모형의 개발 (The Development of Dynamic Forecasting Model for Short Term Power Demand using Radial Basis Function Network)

  • 민준영;조형기
    • 한국정보처리학회논문지
    • /
    • 제4권7호
    • /
    • pp.1749-1758
    • /
    • 1997
  • 전력수요의 예측은 예측기간에 따라 중장기 전력수요 예측과 단기 부하 예측으로 구분할 수 있다. 기존의 단기 부하예측은 주로 역전파 알고리즘(back propagation algorithm)다층퍼셉트론을 이용하여 예측을 하였으나 이는 학습시간이 많이 걸릴 뿐만 아니라 학습도중에 지역최소점(local minima)에 빠져 학습이 계속되지 못한다는 문제가 있다. 본 논문은 이러한 역전파 알고리즘의 문제점을 해결할 수 있는 방법으로 Radial Basis 함수(Radial Basis Function)를 이용하여 동적 단기부하 예측 모형을 제안한다. Radial Basis 함수는 하나의 은닉층(hidden layer)을 갖고 있으며, 전방향(feed-forward)학습을 한다는 특징이 있다. 본 논문에서 제안한 단기 부하 예측모형은 학습을 하기 위하여 시간대별 부하량을 클러스터링 하고, 이 클러스터의 중심값을 Radial Basis 함수의 은닉층으로 하여 학습을 한 다음 예측하고자 하는 패턴을 한 단위로 하여 시단대별로 예측하였다. 기존의 연구에서의 클러스터링 방법으로는 통계학의 K-Means 방법이나 Kohonen의 LVQ(Learning Vector Quantization)을 주로 이용하였으나 본 논문에서는 패턴의 분류에 있어서 다른 알고리즘보다 편차가 작은 Pal, et. al.의 GLVQ(Generalized LVQ) 알고리즘을 이용하였다. 본 논문에서 이용한 데이타는 1995년 3월 1일-3일, 6월 1일-3일, 7월 1일-3일, 9월 1일-3일, 11월 1일-3일의 72시간 데이타를 입력하여 월별 4일의 24시간의 예측시간으로 예측하였다. 실험결과 월별 1일과 3일까지의 학습데이타로 1시간 후의 부하량을 24시간동안 예측한 결과 1.3795%의 평균 오차율로 예측하였다.

  • PDF

Deep neural network based prediction of burst parameters for Zircaloy-4 fuel cladding during loss-of-coolant accident

  • Suman, Siddharth
    • Nuclear Engineering and Technology
    • /
    • 제52권11호
    • /
    • pp.2565-2571
    • /
    • 2020
  • Background: Understanding the behaviour of nuclear fuel claddings by conducting burst test on single cladding tube under simulated loss-of-coolant accident conditions and developing theoretical cum empirical predictive computer codes have been the focus of several investigations. The developed burst criterion (a) assumes symmetrical deformation of cladding tube in contrast to experimental observation (b) interpolates the properties of Zircaloy-4 cladding in mixed α+β phase (c) does not account for azimuthal temperature variations. In order to overcome all these drawbacks of burst criterion, it is reasoned that artificial intelligence technique may be a better option to predict the burst parameters. Methods: Artificial neural network models based on feedforward backpropagation algorithm with logsig transfer function are developed. Results: Neural network architecture of 2-4-4-3, that is model with two hidden layers having four nodes in each layer is found to be the most suitable. The mean, maximum, and minimum prediction errors for this optimised model are 0.82%, 19.62%, and 0.004%, respectively. Conclusion: The burst stress, burst temperature, and burst strain obtained from burst criterion have average deviation of 19%, 12%, and 53% respectively whereas the developed neural network model predicted these parameters with average deviation of 6%, 2%, and 8%, respectively.

뉴럴 네트워크를 사용한 시스템 식별 (System Identification Using Neural Networks)

  • 박성욱;서보혁
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1993년도 하계학술대회 논문집 A
    • /
    • pp.224-226
    • /
    • 1993
  • Multi-layered neural networks offer an exciting alternative for modelling complex non-liner systems. This paper investigates the identification of continuous time nonliner system using neural networks with a single hidden layer. The digital low - pass filter are introduced to avoid direct approximation of system derivatives from sampled data. Using a pre-designed digital low pass filter, an approximated discrete-time estimation model is constructed easily. A continuous approximation liner model is first estimated from sampled input-out signals. Then the modeling error due to the nonlinearity is decreased by a compensator using neural network. Simulation results are given to demonstrate the effective of the proposed method.

  • PDF

다목적댐 유입량 예측을 위한 Recurrent Neural Network 모형의 적용 및 평가 (Application of recurrent neural network for inflow prediction into multi-purpose dam basin)

  • 박명기;윤영석;이현호;김주환
    • 한국수자원학회논문집
    • /
    • 제51권12호
    • /
    • pp.1217-1227
    • /
    • 2018
  • 본 연구에서는 순환신경망을 이용한 댐 유입량 예측모형의 적용성 검토를 목적으로 하고 있으며, 이를 위해 소양강댐 유역 및 충주댐 유역을 대상으로 그간 댐 운영을 통해 축적된 기상 및 수문 빅데이터를 활용하여 인공신경망 모형과 엘만 순환신경망 모형을 구축하였다. 모형의 학습과 예측을 위하여 유역별 유입량, 강우량, 기온, 일조시간, 풍속자료가 입력자료로 사용되었고 10일간 일별 댐유입량 자료가 모델의 출력자료로 구조화 하여 학습을 진행한 후 검증을 목적으로 2016년 7월 ~ 2018년 6월까지 2개년에 대한 댐 유입량 예측을 수행하였다. 학습된 모형의 유입량 예측 결과를 비교분석한 결과, 소양강댐 유역에서는 인공신경망 모형과 순환신경망 모형 간 예측성능은 큰 차이를 보이지 않았으며, 충주댐 유역에서는 순환신경망 모형의 예측 결과가 인공신경망 모형에 비해 비교적 우수한 성능을 보임에 따라 엘만 순환신경망을 이용하여 댐 유입량 예측모형을 구축할 경우 예측성능은 기존의 인공신경망 모형과 비슷하거나 다소 우수할 것으로 판단된다. 또한 엘만 순환신경망은 갈수기 댐 유입량 예측에 있어서 인공신경망에 비해 예측결과의 재현성이 우수한 것으로 나타났으며, 엘만 순환신경망 학습에 있어 다중 은닉층 구조가 단일 은닉층 구조보다 예측 성능 향상에 효과적인 것으로 분석되었다.

S2-Net: Machine reading comprehension with SRU-based self-matching networks

  • Park, Cheoneum;Lee, Changki;Hong, Lynn;Hwang, Yigyu;Yoo, Taejoon;Jang, Jaeyong;Hong, Yunki;Bae, Kyung-Hoon;Kim, Hyun-Ki
    • ETRI Journal
    • /
    • 제41권3호
    • /
    • pp.371-382
    • /
    • 2019
  • Machine reading comprehension is the task of understanding a given context and finding the correct response in that context. A simple recurrent unit (SRU) is a model that solves the vanishing gradient problem in a recurrent neural network (RNN) using a neural gate, such as a gated recurrent unit (GRU) and long short-term memory (LSTM); moreover, it removes the previous hidden state from the input gate to improve the speed compared to GRU and LSTM. A self-matching network, used in R-Net, can have a similar effect to coreference resolution because the self-matching network can obtain context information of a similar meaning by calculating the attention weight for its own RNN sequence. In this paper, we construct a dataset for Korean machine reading comprehension and propose an $S^2-Net$ model that adds a self-matching layer to an encoder RNN using multilayer SRU. The experimental results show that the proposed $S^2-Net$ model has performance of single 68.82% EM and 81.25% F1, and ensemble 70.81% EM, 82.48% F1 in the Korean machine reading comprehension test dataset, and has single 71.30% EM and 80.37% F1 and ensemble 73.29% EM and 81.54% F1 performance in the SQuAD dev dataset.

Fire resistance prediction of slim-floor asymmetric steel beams using single hidden layer ANN models that employ multiple activation functions

  • Asteris, Panagiotis G.;Maraveas, Chrysanthos;Chountalas, Athanasios T.;Sophianopoulos, Dimitrios S.;Alam, Naveed
    • Steel and Composite Structures
    • /
    • 제44권6호
    • /
    • pp.769-788
    • /
    • 2022
  • In this paper a mathematical model for the prediction of the fire resistance of slim-floor steel beams based on an Artificial Neural Network modeling procedure is presented. The artificial neural network models are trained and tested using an analytical database compiled for this purpose from analytical results based on FEM. The proposed model was selected as the optimum from a plethora of alternatives, employing different activation functions in the context of Artificial Neural Network technique. The performance of the developed model was compared against analytical results, employing several performance indices. It was found that the proposed model achieves remarkably improved predictions of the fire resistance of slim-floor steel beams. Moreover, based on the optimum developed AN model a closed-form equation for the estimation of fire resistance is derived, which can prove a useful tool for researchers and engineers, while at the same time can effectively support the teaching of this subject at an academic level.