• 제목/요약/키워드: Number of Hidden Neuron

검색결과 36건 처리시간 0.024초

Use of multi-hybrid machine learning and deep artificial intelligence in the prediction of compressive strength of concrete containing admixtures

  • Jian, Guo;Wen, Sun;Wei, Li
    • Advances in concrete construction
    • /
    • 제13권1호
    • /
    • pp.11-23
    • /
    • 2022
  • Conventional concrete needs some improvement in the mechanical properties, which can be obtained by different admixtures. However, making concrete samples costume always time and money. In this paper, different types of hybrid algorithms are applied to develop predictive models for forecasting compressive strength (CS) of concretes containing metakaolin (MK) and fly ash (FA). In this regard, three different algorithms have been used, namely multilayer perceptron (MLP), radial basis function (RBF), and support vector machine (SVR), to predict CS of concretes by considering most influencers input variables. These algorithms integrated with the grey wolf optimization (GWO) algorithm to increase the model's accuracy in predicting (GWMLP, GWRBF, and GWSVR). The proposed MLP models were implemented and evaluated in three different layers, wherein each layer, GWO, fitted the best neuron number of the hidden layer. Correspondingly, the key parameters of the SVR model are identified using the GWO method. Also, the optimization algorithm determines the hidden neurons' number and the spread value to set the RBF structure. The results show that the developed models all provide accurate predictions of the CS of concrete incorporating MK and FA with R2 larger than 0.9972 and 0.9976 in the learning and testing stage, respectively. Regarding GWMLP models, the GWMLP1 model outperforms other GWMLP networks. All in all, GWSVR has the worst performance with the lowest indices, while the highest score belongs to GWRBF.

저수지 유입량 예측을 위한 신경망 모형의 특성 연구 (A Study on Characteristics of Neural Network Model for Reservoir Inflow Forecasting)

  • 김재형;윤용남
    • 한국방재학회 논문집
    • /
    • 제2권4호
    • /
    • pp.123-129
    • /
    • 2002
  • 본 연구에서는 3층 신경망 모형에 의해 충주호의 유입량을 예측한 결과들을 이용하여 신경망 모형의 저수지 유입량 예측 특성을 분석하였다. 신경망 모형의 적절한 입력층 및 은닉층 뉴런 개수, 학습회수를 제시하였으며, 학습 첨두유량 크기가 예측된 첨두유량보다 작을 경우 예측 값이 과소평가되는 특징을 확인하였다. 또한 뉴런 개수, 학습회수가 과다할 경우 발생 가능한 과적합 현상을 확인하였으며, 정확한 예측을 위해 필요한 최소 학습자료 기간도 제시하였다. 결과적으로 충주호의 경우 $8{\sim}10$개의 뉴런 개수 및 $1500{\sim}3000$회의 학습회수를 이용한 신경망 모형이 적합한 것으로, 학습자료 기간 수는 최소한 600개 이상의 자료를 적용하여야 정확한 예측이 가능한 것으로 결과되었다.

안정성을 고려한 동적 신경망의 최적화와 비선형 시스템 제어기 설계 (Optimization of Dynamic Neural Networks Considering Stability and Design of Controller for Nonlinear Systems)

  • 유동완;전순용;서보혁
    • 제어로봇시스템학회논문지
    • /
    • 제5권2호
    • /
    • pp.189-199
    • /
    • 1999
  • This paper presents an optimization algorithm for a stable Self Dynamic Neural Network(SDNN) using genetic algorithm. Optimized SDNN is applied to a problem of controlling nonlinear dynamical systems. SDNN is dynamic mapping and is better suited for dynamical systems than static forward neural network. The real-time implementation is very important, and thus the neuro controller also needs to be designed such that it converges with a relatively small number of training cycles. SDW has considerably fewer weights than DNN. Since there is no interlink among the hidden layer. The object of proposed algorithm is that the number of self dynamic neuron node and the gradient of activation functions are simultaneously optimized by genetic algorithms. To guarantee convergence, an analytic method based on the Lyapunov function is used to find a stable learning for the SDNN. The ability and effectiveness of identifying and controlling a nonlinear dynamic system using the proposed optimized SDNN considering stability is demonstrated by case studies.

  • PDF

A Comparative Analysis of Artificial Neural Network (ANN) Architectures for Box Compression Strength Estimation

  • By Juan Gu;Benjamin Frank;Euihark Lee
    • 한국포장학회지
    • /
    • 제29권3호
    • /
    • pp.163-174
    • /
    • 2023
  • Though box compression strength (BCS) is commonly used as a performance criterion for shipping containers, estimating BCS remains a challenge. In this study, artificial neural networks (ANN) are implemented as a new tool, with a focus on building up ANN architectures for BCS estimation. An Artificial Neural Network (ANN) model can be constructed by adjusting four modeling factors: hidden neuron numbers, epochs, number of modeling cycles, and number of data points. The four factors interact with each other to influence model accuracy and can be optimized by minimizing model's Mean Squared Error (MSE). Using both data from the literature and "synthetic" data based on the McKee equation, we find that model estimation accuracy remains limited due to the uncertainty in both the input parameters and the ANN process itself. The population size to build an ANN model has been identified based on different data sets. This study provides a methodology guide for future research exploring the applicability of ANN to address problems and answer questions in the corrugated industry.

은닉층에 비단조 뉴런을 갖는 결정론적 볼츠만 머신의 학습능력에 관한 연구 (Learning Ability of Deterministic Boltzmann Machine with Non-Monotonic Neurons in Hidden Layer)

  • 박철영
    • 한국지능시스템학회논문지
    • /
    • 제11권6호
    • /
    • pp.505-509
    • /
    • 2001
  • 본 연구에서는 학습기근을 갖는 결정론적 볼츠만 머신의 은닉충 뉴런에 비단조 활성화 함수를 적요한 경위의 학습성능을 XOR 문제와 ADD 학습에 대하여 수지 시뮬레이션을 통하여분석한다. 단조 활성화함수를 사용한 경우와 비교하여 학습 수렴률, 학습안정도, 및 학습 속도에 있어서 성능이 크게 향상됨을 확인하였다. 또한 네트워크의 막전위 분포를 조사함으로서 end-cut-off 타입의 비단조 함수를 이용한 경우에 나타는 다음 층의 뉴런에 영향을 주지 않는 뉴런의 출현, 즉, 신경회로망에 있어서 은닉층 뉴런늬 수을 자율적으로 조정하는것을 확인하였따. 이것은 학습문제에 대하여 네트워크 은닉층 뉴런의 수를 명확하게 결정할수 없는 현재의 상황에 있어서는 새로운 돌파구가 될것으로 기대된다.

  • PDF

Self-adaptive Online Sequential Learning Radial Basis Function Classifier Using Multi-variable Normal Distribution Function

  • ;김형중
    • 한국정보통신설비학회:학술대회논문집
    • /
    • 한국정보통신설비학회 2009년도 정보통신설비 학술대회
    • /
    • pp.382-386
    • /
    • 2009
  • Online or sequential learning is one of the most basic and powerful method to train neuron network, and it has been widely used in disease detection, weather prediction and other realistic classification problem. At present, there are many algorithms in this area, such as MRAN, GAP-RBFN, OS-ELM, SVM and SMC-RBF. Among them, SMC-RBF has the best performance; it has less number of hidden neurons, and best efficiency. However, all the existing algorithms use signal normal distribution as kernel function, which means the output of the kernel function is same at the different direction. In this paper, we use multi-variable normal distribution as kernel function, and derive EKF learning formulas for multi-variable normal distribution kernel function. From the result of the experience, we can deduct that the proposed method has better efficiency performance, and not sensitive to the data sequence.

  • PDF

신경회로망을 이용한 고조파 부하의 식별 (Identification of harmonic loads using neural network)

  • 황창선;심재식;김동완;김문수;최중락
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1993년도 하계학술대회 논문집 A
    • /
    • pp.235-237
    • /
    • 1993
  • Semiconductor devices generate harmonics which induced bad effects against power distribution systems. To surpress harmonics, the filter design and the identification of harmonic load sources are needed. In this paper, artificial neural networks are used to identify the nonlinear relationship between harmonic loads and harmonic currents that vary at times. To find the best adequate network for solving this identification problem, we compared with recognition rates of neural networks by changing hidden layer neuron number.

  • PDF

신경회로망을 이용한 음성인식과 그 학습 (Speech Recognition and Its Learning by Neural Networks)

  • 이권현
    • 한국통신학회논문지
    • /
    • 제16권4호
    • /
    • pp.350-357
    • /
    • 1991
  • 본 논문에서는 전화번호 서비스시 사용되고 있는 영(zero)에서 일까지의 2종류의 숫자음(한글발음의 셈수와 한자발음의 읽음수) 22개에 대하여 신경회로망을 이용한 음성인식 실험의 결과와 학습과정에서 나타난 제 현상에 관해 논하였다. 신경회로망은 입력단과 출력단만을 갖는 2단구조와 한 개의 은익단을 갖는 3단구조의 회로망으로 은익단의 뉴론(Neuron) 수를 11, 12 및 44개로 가변해 가면서 BP(Back-Propagation) 알고리즘에 의하여 학습하였고 학습과정에서는 학습팩터(Learning factor), 학습방법(예로써 Random or Cycle), 모멘텀(Momentum)등을 조정해 가면서 최적의 학습과정을 찾고자 하였다. 실험결과 2단구조에 의한 화자독립의 경우 최고 96%의 인식율을 나타냈고 학습과정이 너무 많을 경우 오히려 인식율이 낮아졌으며 이 현상은 3단구조의 회로망에서 더욱 두드러지게 나타났다.

  • PDF

사전 정보를 이용한 소프트웨어 개발노력 추정 신경망 구조 결정 (Decision of Neural Network Architecture for Software Development Effort Estimation using Prior Information)

  • 박석규;유창열;박영목
    • 한국컴퓨터산업학회논문지
    • /
    • 제2권9호
    • /
    • pp.1191-1198
    • /
    • 2001
  • 소프트웨어 개발에서 점점 더 중요시되는 사항은 개발 생명주기의 초기에 개발과 관련된 노력과 비용을 추정하는 능력이다. 제안된 모델 대부분은 경험 데이터의 직관, 전문가 판단과 회귀분석의 조합에 기반을 두고 있으나 다양한 환경에 적용될 수 있는 하나의 모델을 개발하는 것이 불가능하였다. 본 논문은 기능 구성요소 형태들로 측정된 소프트웨어 규모로 소프트웨어 개발노력을 추정하는 신경망 모델을 제안한다. 신경망의 은닉뉴런 수는 입-출력 관계로부터 휴리스틱하게 얻는 방법을 제안한다. 24개 소프트웨어 개발 프로젝트 사례연구를 통해 적합한 신경망 모델을 제시하였다. 또한, 회귀분석 모델과 신경망 모델을 비교하여 신경망 모델의 정확성이 보다 좋음을 보였다.

  • PDF

이기종 컴퓨팅을 활용한 환율 예측 뉴럴 네트워크 구현 (Implementation of Exchange Rate Forecasting Neural Network Using Heterogeneous Computing)

  • 한성현;이광엽
    • 예술인문사회 융합 멀티미디어 논문지
    • /
    • 제7권11호
    • /
    • pp.71-79
    • /
    • 2017
  • 본 논문에서는 이기종 컴퓨팅을 활용한 환율 예측 뉴럴 네트워크를 구현했다. 환율 예측에는 많은 양의 데이터가 필요하다. 그에 따라 이러한 데이터를 활용할 수 있는 뉴럴 네트워크를 사용했다. 뉴럴 네트워크는 크게 학습과 검증의 두 과정을 거친다. 학습은 CPU를 활용했다. 검증에는 Verilog HDL로 작성된 RTL을 FPGA에서 동작 시켰다. 해당 뉴럴 네트워크의 구조는 입력 뉴런 네 개, 히든 뉴런 네 개, 출력 뉴런 한 개를 가진다. 입력 뉴런에는 미국 1달러, 일본 100엔, EU 1유로, 영국 1파운드의 원화 가치를 사용했다. 입력 뉴런들을 통해 캐나다 1달러의 원화가치를 예측 했다. 환율을 예측 하는 순서는 입력, 정규화, 고정 소수점 변환, 뉴럴 네트워크 순방향, 부동 소수점 변환, 역정규화, 출력 과정을 거친다. 2016년 11월의 환율을 예측한 결과 0.9원에서 9.13원 사이의 오차 금액이 발생했다. 환율 이외의 다른 데이터를 추가해 뉴런의 개수를 늘린다면 더 정확한 환율 예측이 가능할 것으로 예상된다.