• 제목/요약/키워드: back propagation 신경망 회로

검색결과 99건 처리시간 0.02초

FPGA를 이용한 웨어러블 디바이스를 위한 역전파 알고리즘 구현 (Implementation of back propagation algorithm for wearable devices using FPGA)

  • 최현식
    • 한국차세대컴퓨팅학회논문지
    • /
    • 제15권2호
    • /
    • pp.7-16
    • /
    • 2019
  • 신경 회로망을 구현하기 위해 다양한 시도들이 이루어지고 있으며, 하드웨어적인 개선을 위해 전용 칩 개발이 이루어지고 있다. 이러한 신경 회로망을 웨어러블 디바이스에 적용하기 위해서는 소형화와 저전력 동작이 필수적이다. 이러한 관점에서 적합한 구현 방법은 FPGA (field programmable gate array)를 사용한 디지털 회로 설계이다. 이 시스템을 구현하기 위해서는 성능 향상을 위해 신경 회로망의 많은 부분을 차지하는 학습 알고리즘을 FPGA 내에 구현하여야 한다. 본 논문에서는 FPGA를 이용하여 다양한 학습 알고리즘 중 역전파 알고리즘을 구현하였으며, 구현 된 신경 회로망은 OR 게이트 연산을 통해 검증되었다. 또한 이러한 신경 회로망을 활용하여 다양한 사용자의 생체 신호 측정 결과를 분석할 수 있음을 확인하였다.

신경 회로망을 이용한 음성 신호의 장구간 예측 (Long-term Prediction of Speech Signal Using a Neural Network)

  • 이기승
    • 한국음향학회지
    • /
    • 제21권6호
    • /
    • pp.522-530
    • /
    • 2002
  • 본 논문에서는 선형 예측 후에 얻어지는 잔차 신호 (residual signal)를 신경 회로망에 바탕을 둔 비선형 예측기로 예측하는 방법을 제안하였다. 신경 회로망을 이용한 예측 방법의 타당성을 입증하기 위해, 먼저 선형 장구간 예측기와 신경 회로망이 도입된 비선형 장구간 예측기의 성능을 서로 비교하였다. 그리고 비선형 예측 후의 잔차 신호를 양자화 하는 과정에서 발생하는 양자화 오차의 영향에 대해 분석하였다. 제안된 신경망 예측기는 예측 오차뿐만 아니라 양자화의 영향을 함께 고려하였으며, 양자화오차에 대한강인성을 갖게 하기 위하여 쿤-터커 (Kuhn-Tucker) 부등식 조건을 만족하는 제한조건 역전파 알고리즘을 새로이 제안하였다. 실험 결과, 제안된 신경망 예측기는 제한조건을 갖는 학습 알고리즘을 사용했음에도 불구하고, 예측 이득이 크게 뒤떨어지지 않는 성능을 나타내었다.

선형 신경 회로망을 이용한 영상 Thinning 구현

  • 박병준;이정훈
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2000년도 춘계학술대회 학술발표 논문집
    • /
    • pp.27-30
    • /
    • 2000
  • 본 논문에서는 선형 이진 신경회로망(Linear Binary Neural Network)을 이용하여 이진 영상으로부터 골격(skeleton)을 추출하는 병렬 구조를 제안하였다. 기존의 골격 추출 알고리즘으로부터 이진함수를 추출하고 이를 MSP Term Grouping Algorithm을 이용하여 학습시켰다. 결과에서는 기존의 역전파(Back-propagation) 학습알고리즘을 사용한 신경회로망보다 더 쉽게 하드웨어로 구현할 수 있음을 보여준다.

  • PDF

학습기능을 갖는 자동 규칙 생성 퍼지 신경망 (Fuzzy Neural Network with Rule Generaton Nased on Back-Propagation Algorithm)

  • 정재경;이동윤;정기욱;김완찬
    • 전자공학회논문지B
    • /
    • 제33B권4호
    • /
    • pp.191-200
    • /
    • 1996
  • This paper presetns a new fuzzy neural network for fuzzy modeling.The fuzzy neural network is composed of 4 layers and then odes of each layer represent the each step of the if-then fuzzy inference. A heuristic based on the back-propagation algorithm is proposed to ajdust the parameters of the fuzzy nerual network. We prove the feasibility of the network using the experiments on modeling a nonlinear mathematical system and the comparison with previous research.

  • PDF

신경망 회로를 이용한 필기체 숫자 인식에 관할 연구 (A Study Of Handwritten Digit Recognition By Neural Network Trained With The Back-Propagation Algorithm Using Generalized Delta Rule)

  • 이규한;정진현
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1999년도 하계학술대회 논문집 G
    • /
    • pp.2932-2934
    • /
    • 1999
  • In this paper, a scheme for recognition of handwritten digits using a multilayer neural network trained with the back-propagation algorithm using generalized delta rule is proposed. The neural network is trained with hand written digit data of different writers and different styles. One of the purpose of the work with neural networks is the minimization of the mean square error(MSE) between actual output and desired one. The back-propagation algorithm is an efficient and very classical method. The back-propagation algorithm for training the weights in a multilayer net uses the steepest descent minimization procedure and the sigmoid threshold function. As an error rate is reduced, recognition rate is improved. Therefore we propose a method that is reduced an error rate.

  • PDF

간단한 비선형 시냅스 회로를 이용한 MEBP 학습 회로의 구현 (Implementation of ME8P Learning Circuitry With Simple Nonlinear Synapse Circuit)

  • 조화현;채종석;이은상;박진성;최명렬
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 1999년도 하계학술대회 논문집 G
    • /
    • pp.2977-2979
    • /
    • 1999
  • 본 논문에서는 MEBP(Modified Error Back-Propagation) 학습 규칙을 간단한 비선형 회로를 이용하여 구현하였다. 인공 신경 회로망(ANNs : Artificial Neural Networks)은 많은 수의 뉴런을 필요하기 때문에 표준 CMOS 기술을 이용하는 간단한 비선형 시냅스(synapse) 회로는 인공 신경 회로망 구현에 적합하다. 학습회로는 비선형 시냅스 회로. 시그모이드(sigmoid) 회로. 그리고 선형 곱셈기로 구성되어 있다. 학습 회로의 출력은 각 입력 패턴에 따라 유일한 값으로 결정되어진다. 제안한 학술회로를 $2{\times}2{\times}1$$2{\times}3{\times}1$ 다층 feedforward 신경 회로망 모델에 적용하였다. MEBP 하드웨어 구현은 HSPICE 회로 시뮬레이터를 이용하여 검증하였다. 제안한 학술 회로는 on-chip 학습회로를 포함한 대규모 신경회로망 구현에 매우 적합하리라 예상된다.

  • PDF

패턴인식용 VLSI 펄스형 디지탈 다계층 신경망의 구조및 동작 특성 (A VLSI Pulse-mode Digital Multilayer Neural Network for Pattern Classification : Architecture and Computational Behaviors)

  • 김영철;이귀상
    • 전자공학회논문지B
    • /
    • 제33B권1호
    • /
    • pp.144-152
    • /
    • 1996
  • 대규모 병렬처리가 가능하고 칩당 뉴론 집적도가 높은 펄스형 디지털 다계층 신경망 구조를 제안하였다. 제안된 신경망에서는 대수적인 신경망연산이 의사-랜덤 펄스 시퀀스(pseudo-random pulse sequences)와 단순 디지털 논리 게이트를 이용하여 확률적 프로세스로 대치되었다. 확률적 프로세스의 결과로 나타나는 신경망 연산의 통계적 모델을 제시하였으며 이를 바탕으로 랜덤잡음의 영향과 연산의 정확도를 분석하였다. 이진인식 문제를 적용하여 제안된 신경망의 성능을 평가하고 제시한 통계적 분석결과의 정당성을 검증하였다. Gate 레벨과 register transfer 레벨로 기술된 신경망의 VHDL 모델의 시뮬레이션 결과는 개발된 통계적모델로 예측된 인식추정치와 실제 인식률이 거의 일치함을 보였으며, 또한 숫자인식률에 있어서도 일반 Back-Propagation 신경망의 인식률과 거의 차이가 없음을 보였다.

  • PDF

색 분해법과 역전파 신경 회로망을 이용한 차량 번호판 인식 (Recognition of Vehicle Number Plate Using Color Decomposition Method and Back Propagation Neural Network)

  • 이재수;김수인;서춘원
    • 전자공학회논문지T
    • /
    • 제35T권3호
    • /
    • pp.46-52
    • /
    • 1998
  • 본 논문에서는 차량에 부착된 번호 판을 컴퓨터에 입력한 후 이를 색 분해법과 역전파 신경망을 이용하여 자동차 번호를 고속으로 추출할 수 있는 방법을 제시하였다. 칼라 비디오 카메라에 의해 컴퓨터에 입력되는 자동차의 동화상을 R, G, B 신호로 분리한 후 승용차의 번호판 색상을 이용하여 R, G ,B의 각 농도에 맞는 임계치를 설정하여 2치화 시켜 번호판 영역을 추출한 후에 2 치화된 이 화상 신호를 프레임 버퍼에 기록하여 컴퓨터의 화상 데이터로 입력시켰다. 그리고 문자 인식 알고리즘을 적용한 후 문자 인식을 개선시키기 위해 역전파 신경 회로망을 적용하여 차랑 번호판 인식 시스템을 구현하였다. 또한 주변의 유사 색상의 존재로 인한 흔돈을 극소화시키기 위해 차량 번호판의 직사각형 구조를 이용하여 수평.수직선 추출 알고리즘을 사용하였으며 실험 결과 고속으로 차량 번호판 추출 및 인식이 가능함을 보였다.

  • PDF

시각 검사 시스템에서 신경 회로망을 이용한 납땜 상태 분류 기법 (A Classification Techniques of Solder Joint Using Neural Network in Visual Inspection System)

  • 오제휘;차영엽
    • 한국정밀공학회지
    • /
    • 제15권7호
    • /
    • pp.26-35
    • /
    • 1998
  • This paper presents a visual inspection algorithm looking for solder joint defects of IC chips on PCBs (Printed Circuit Boards). In this algorithm, seven features are proposed in order to categorize the solder joints into four classes such as normal, insufficient, excess, and no solder, and optimal back-propagation network is determined by error evaluation which depend on the number of neurons in hidden and out-put layers and selection of the features. In the end, a good accuracy of classification performance, an optimal determination of network structure and the effectiveness of chosen seven features are examined by experiment using proposed inspection algorithm.

  • PDF

신용카드 고객의 신용 예측을 위한 지식기반 방법들: 적용 및 비교 연구 (Knowledge-Based methodologies for the Credit Rating : Application and Comparison)

  • 주석진;김재경;성태경;김중한
    • 지능정보연구
    • /
    • 제5권1호
    • /
    • pp.49-64
    • /
    • 1999
  • 본 연구는 백화점 고객이 신용 카드 신청 요구 시에 작성되는 가입 정보 및 사용되고 있는 고객의 거래 정보는 카드 사용 패턴으로 신용도를 예측하는 여러 방법론을 제시하고 성능을 비교하였다. 가입 정보를 분석하기 위해 역전파 신경망(Back-Propagation Neural Network, BPNN), 사례기반추론(Case-Based reasoning)을, 거래 정보를 분석하기 위해 역전파 신경망과 더불어 시간지연 신경망(Time-Delayed Neural Network, TDNN)을 각각 사용하여 그 결과를 비교하였다. 또한 전체시스템의 적중률을 높이기 위햐여, ID3와 신경망을 이용한 Meta-Leaning 방법을 제시하였으며, Meta-Learning 방법과 다른 방법들을 비교, 분석을 하였다. 본 연구에서는 모형 수립과 검증을 위하여 T백화점의 실제 신용 카드 가입 고객 데이터를 이용하여 실험하였다. 데이터의 성격에 따라 각 모델의 예측력에는 차이가 나타났으나, 신경망 모형의 예측력이 우수하였으며, 시간적 특성을 고려하는 시간지연 신경회로망 모형의 예측력은 더욱 우수하게 나타났다. 또한 Meta-Learning 모형을 사용하면 예측력이 더 높아진다는 것을 확인할 수 있었다.

  • PDF