• 제목/요약/키워드: multi-layered perceptrons

검색결과 8건 처리시간 0.022초

다중계층 퍼셉트론 내 Sigmoid 활성함수의 구간 선형 근사와 양자화 근사와의 비교 (A piecewise affine approximation of sigmoid activation functions in multi-layered perceptrons and a comparison with a quantization scheme)

  • 윤병문;신요안
    • 전자공학회논문지C
    • /
    • 제35C권2호
    • /
    • pp.56-64
    • /
    • 1998
  • Multi-layered perceptrons that are a nonlinear neural network model, have been widely used for various applications mainly thanks to good function approximation capability for nonlinear fuctions. However, for digital hardware implementation of the multi-layere perceptrons, the quantization scheme using "look-up tables (LUTs)" is commonly employed to handle nonlinear signmoid activation functions in the neworks, and thus requires large amount of storage to prevent unacceptable quantization errors. This paper is concerned with a new effective methodology for digital hardware implementation of multi-layered perceptrons, and proposes a "piecewise affine approximation" method in which input domain is divided into (small number of) sub-intervals and nonlinear sigmoid function is linearly approximated within each sub-interval. Using the proposed method, we develop an expression and an error backpropagation type learning algorithm for a multi-layered perceptron, and compare the performance with the quantization method through Monte Carlo simulations on XOR problems. Simulation results show that, in terms of learning convergece, the proposed method with a small number of sub-intervals significantly outperforms the quantization method with a very large storage requirement. We expect from these results that the proposed method can be utilized in digital system implementation to significantly reduce the storage requirement, quantization error, and learning time of the quantization method.quantization method.

  • PDF

A Study of Data Mining Optimization Model for the Credit Evaluation

  • Kim, Kap-Sik;Lee, Chang-Soon
    • Journal of the Korean Data and Information Science Society
    • /
    • 제14권4호
    • /
    • pp.825-836
    • /
    • 2003
  • Based on customer information and financing processes in capital market, we derived individual models by applying multi-layered perceptrons, MDA, and decision tree. Further, the results from the existing single models were compared with the results from the integrated model that was developed using genetic algorithm. This study contributes not only to verifying the existing individual models and but also to overcoming the limitations of the existing approaches. We have depended upon the approaches that compare individual models and search for the best-fit model. However, this study presents a methodology to build an integrated data mining model using genetic algorithm.

  • PDF

신용평가를 위한 데이터마이닝 분류모형의 통합모형에 관한 연구 (A Study of the Integration of Individual Classification Model in Data Mining for the Credit Evaluation)

  • 김갑식
    • 정보처리학회논문지D
    • /
    • 제12D권2호
    • /
    • pp.211-218
    • /
    • 2005
  • 본 연구는 금융기관에서의 고객신용평가를 위한 최적의 데이터마이닝 모형을 제안한다. 이를 위해 할부금융시장에서의 고객정보 및 할부진행 과정에 대한 세부 내역을 바탕으로 다계층 퍼셉트론(Multi-Layered Perceptrons:MLP)과 다변량 판별분석(Multivariate Discrimination Analysis : MDA), 그리고 의사결정나무(Decision Tree)를 적용하여 각각의 개별모형을 도출하고 이론 유전자 알고리즘을 이용하여 통합한 최종 모형을 구해 그 결과론 각 단일모형과 비교${\cdot}$분석하였다. 그 견과 유전자 알고리즘을 통해 결합한 통합모형의 성능이 가장 우수한 것으로 나타났다. 이에 본 연구는 기존에 진행되었던 개변모형에 대한 검증은 물론, 단순히 여러 개의 모형을 비교${\cdot}$분석하여 우월한 모형을 평가하는 기존 방법론 상의 한계를 극복하기 위해 각각의 개별모형을 유전자 알고리즘을 통해 통합모형으로 구축하는 하나의 방법론을 제시하였다는데 그 의의가 있다.

다중 다층 퍼셉트론을 이용한 저해상도 홍채 영상의 고해상도 복원 연구 (A Study on the Restoration of a Low-Resoltuion Iris Image into a High-Resolution One Based on Multiple Multi-Layered Perceptrons)

  • 신광용;강병준;박강령;신재호
    • 한국멀티미디어학회논문지
    • /
    • 제13권3호
    • /
    • pp.438-456
    • /
    • 2010
  • 홍채 인식은 고유한 홍채 패턴을 이용하여 신원을 확인하는 생체 인식 기술이다. 일반적으로 홍채인식에서 는 홍채 직경이 200 화소(pixel) 이상 되는 고해상도 홍채 영상을 사용하며, 이런 경우 인식률 감소 없이 정확한 홍채 인식 결과를 얻는다고 알려져 있다. 이를 위해 기존의 홍채 인식 시스템들은 줌렌즈 카메라를 사용하지만, 이러한 카메라는 홍채 인식기의 가격과 크기를 증가시키는 요인이 된다. 이러한 문제를 해결하기 위하여 본 연구에서는 줌렌즈 카메라의 사용 없이 저해상도로 취득된 홍채 영상에서의 인식 정확도를 향상할 수 있는 방법을 제안한다. 본 연구에서는 기존의 방법과 비교하여 다음과 같은 두 가지 장점을 갖는다. 첫째, 기존의 연구에서는 홍채 직경이 200 화소 이하인 저해상도 영상에서의 홍채 인식 성능 감소에 대한 정량적 분석이 진행된 바 없다. 본 연구에서는 홍채 영상의 초점 정도, 눈꺼풀 및 속눈썹 가림 정도의 영향을 배제하고, 홍채 영상의 크기 변화에 따른 인식율의 저하정도를 정량적으로 파악하였다. 둘째, 한 장의 저해상도 홍채 영상을 고해상도 영상으로 복원하기 위해 홍채 영역의 에지 방향에 따라 개별적으로 다르게 학습된 다중 다층 퍼셉트론을 적용함으로써, 복원된 영상에서의 인식 정확도를 향상시켰다. 원 영상대비 6%만큼의 크기로 축소한 저해상도 홍채 영상을 고해상도 영상으로 복원한 결과, 제안하는 방법에 의한 홍채 인식의 EER이 기존의 이중선형보간법에 의한 EER보다 0.133% (1.485% - 1.352%) 만큼 감소됨을 알 수 있었다.

유전자 알고리즘기반 복수 분류모형 통합에 의한 할부금융고객의 신용예측모형 (A credit prediction model of a capital company′s customers using genetic algorithm based integration of multiple classifiers)

  • 이웅규;김홍철
    • 한국경영과학회:학술대회논문집
    • /
    • 한국경영과학회 2001년도 추계학술대회 논문집
    • /
    • pp.161-164
    • /
    • 2001
  • 본 연구에서는 할부금융시장에서의 고객신용예측을 위한 모형으로 여러 가지 인공신경망(Neural Network) 모형들을 유전자 알고리즘(Genetic Algorithm)을 이용하여 통합한 신용예측모형을 제안한다. 10개의 학습된 인공신경망 모형들을 유전자알고리즘을 이용하여 종류별로 통합하여 MLP(Multi-Layered Perceptrons), Linear, RBF(Radial Basis Function) 세 가지의 대표모델을 얻고 이를 다시 하나의 인공신경망 모델로 통합하였다. 이를 통합되기 이전의 각각의 인공신경망 모형들과 성능을 비교, 분석하여 본 연구에서 제안한 통합모형의 유효성과 통합방법의 타당성을 제시하였다.

  • PDF

효율적인 신용평가를 위한 데이터마이닝 모형의 비교.분석에 관한 연구 (Study on the Comparison and Analysis of Data Mining Models for the Efficient Customer Credit Evaluation)

  • 김갑식
    • Journal of Information Technology Applications and Management
    • /
    • 제11권1호
    • /
    • pp.161-174
    • /
    • 2004
  • This study is intended to suggest1 the optimized data mining model for the efficient customer credit evaluation in the capital finance industry. To accomplish the research objective, various data mining models for the customer credit evaluation are compared and analyzed. Furthermore, existing models such as Multi-Layered Perceptrons, Multivariate Discrimination Analysis, Radial Basis Function, Decision Tree, and Logistic Regression are employed for analyzing the customer information in the capital finance market and the detailed data of capital financing transactions. Finally, the data from the integrated model utilizing a genetic algorithm is compared with those of each individual model mentioned above. The results reveals that the integrated model is superior to other existing models.

  • PDF

Comparison and optimization of deep learning-based radiosensitivity prediction models using gene expression profiling in National Cancer Institute-60 cancer cell line

  • Kim, Euidam;Chung, Yoonsun
    • Nuclear Engineering and Technology
    • /
    • 제54권8호
    • /
    • pp.3027-3033
    • /
    • 2022
  • Background: In this study, various types of deep-learning models for predicting in vitro radiosensitivity from gene-expression profiling were compared. Methods: The clonogenic surviving fractions at 2 Gy from previous publications and microarray gene-expression data from the National Cancer Institute-60 cell lines were used to measure the radiosensitivity. Seven different prediction models including three distinct multi-layered perceptrons (MLP), four different convolutional neural networks (CNN) were compared. Folded cross-validation was applied to train and evaluate model performance. The criteria for correct prediction were absolute error < 0.02 or relative error < 10%. The models were compared in terms of prediction accuracy, training time per epoch, training fluctuations, and required calculation resources. Results: The strength of MLP-based models was their fast initial convergence and short training time per epoch. They represented significantly different prediction accuracy depending on the model configuration. The CNN-based models showed relatively high prediction accuracy, low training fluctuations, and a relatively small increase in the memory requirement as the model deepens. Conclusion: Our findings suggest that a CNN-based model with moderate depth would be appropriate when the prediction accuracy is important, and a shallow MLP-based model can be recommended when either the training resources or time are limited.

인공신경회로망을 이용한 뇌 F-18-FDG PET 자동 해석: 내.외측 측두엽간질의 감별 (Automatic Interpretation of F-18-FDG Brain PET Using Artificial Neural Network: Discrimination of Medial and Lateral Temporal Lobe Epilepsy)

  • 이재성;이동수;김석기;박광석;이상건;정준기;이명철
    • 대한핵의학회지
    • /
    • 제38권3호
    • /
    • pp.233-240
    • /
    • 2004
  • 목적: 내 외측 측두엽간질의 감별은 중요하고 F-18-FDG PET이 도움을 주나 성능이 아주 우수하지는 않다. 이 연구에서는 수술과 수술 후 추적 병리소견으로 확진한 내측성 또는 외측성 측두엽간질 환자의 F-18-FDG PET영상을 후향적으로 조사하여 내측 및 외측 측두엽 대사 감소 양상을 추출하고 내측성과 외측성 간질을 감별하기 위한 인공신경회로망을 이용한 감별시스템을 개발하였으며 판독 성능을 핵의학전문가와 비교하였다. 대상 및 방법 : 수술로 확진한 내측성 또는 외측성 측두엽간질 환자 113명(좌 우측 내측성 측두엽간질 각 41, 42명, 좌 우측 외측성 측두엽간질 각 14, 16명)의 뇌 FDG PET을 대상으로 하였다. 모든 PET 영상을 PET 표준지도에 공간정규화하였으며 표준지도에서 추출한 뇌실질 영역의 평균 화소 값이 100이 되도록 계수정규화를 하였다. 표준지도에 미리 정의한34개 영역에서 평균 계수 값을 추출하였으며 마주보는 17개 영역간의 비대칭계수와 내측 및 외측 측두엽간의 비대칭계수를 구하여 신경회로망 시스템의 입력으로 넣었다. 신경회로망 시스템은 세 개의 독립적인 다층 퍼셉트론으로 구성하였다. 첫 번째 퍼셉트론은 간질 원인병소의 편측화(우측 또는 좌측)를 판단하게 하였다. 다른 두개의 퍼셉트론은 우측 또는 좌측 측두엽간질로 나뉘어진 입력 패턴들을 각각 내측성 또는 외측성 측두엽간질로 구분하는 역할을 하게 하였다. 신경회로망 시스템의 감별 성능을 평가하기 위하여 각 환자군에서 무작위로 8명의 PET 영상을 학습군으로 선정하여 신경회로망을 학습시켰으며 나머지 총 81명의 영상으로 신경망 시스템의 진단 정확성을 평가하였다. 이러한 무작위 실험을 50번 시행하여 얻은 신경회로망 시스템의 출력과 진단명과의 일치도를 핵의학 의사의 판독결과와 비교하였다. 핵의학 의사의 판독은 신경회로망과 동일한 조건 하에서 시행되도록 하기 위하여 각 환자가 측두엽간질환자라는 정보이외에는 어떠한 다른 임상정보도 모르는 상태에서 각 환자를 좌측 또는 우측 내측성 측두엽간질이나 좌측 또는 우측 외측성 측두엽간질 중 하나로 감별하도록 하였다. 결과: 내측 또는 외측 측두엽에 대한 최종 국소화가 정확했는지 여부에 관계없이 간질병소가 속한 뇌반구가 좌측인지 우측인지를 맞게 판단하였으면 편측화에 성공한 것으로 보았을 때 신경회로망과 핵의학 전문가가 모두 평균 90% 정도의 높은 편측화 성공률을 보였다. 편측화는 물론 간질병소가 내측에 있는지 외측에 있는지 여부를 정확하게 판단한 국소화 성공률 또한 신경회로망(59%)과 핵의학 전문가(72%)의 진단 성적이 거의 다르지 않았다. 결론: 이 연구에서 개발한 간질병소 국소화를 위한 신경회로망 시스템은 측두엽간질 감별 진단에 도움이 될 것으로 기대된다.