• 제목/요약/키워드: Spiking Neural Networks

검색결과 21건 처리시간 0.024초

Spiking Neural Networks(SNN) 구조에서 뉴런의 개수와 학습량에 따른 학습 성능 변화 분석 (An analysis of learning performance changes in spiking neural networks(SNN))

  • 김용주;김태호
    • 문화기술의 융합
    • /
    • 제6권3호
    • /
    • pp.463-468
    • /
    • 2020
  • 인공지능 연구는 다양한 분야에 적용되며 발전하고 있다. 본 논문에서는 차세대 인공지능 연구 분야인 SNN(Spiking Neural Networks) 형태의 인공지능 구현 방식을 사용하여 신경망을 구축하고, 그 신경망에서 뉴런의 개수가 신경망의 성능에 어떠한 영향을 미치는지를 분석한다. 또한 신경망 학습량을 증가시키면서 신경망의 성능이 어떻게 바뀌는지를 분석한다. 해당 연구 결과를 통해 각 분야에서 사용되는 SNN 기반의 신경망을 최적화 할 수 있을 것이다.

Modular Spiking Neural Networks 의 다중단계 학습알고리즘 (Multi-stage Learning for Modular Spiking Neural Networks)

  • 이경희
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2021년도 춘계학술발표대회
    • /
    • pp.347-350
    • /
    • 2021
  • 본 논문에서는 지도학습(Supervised Learning)알고리즘을 사용하는 모듈러 스파이킹 신경회로망(Modular Spiking Neural Networks)에서 학습의 진행 상황에 맞추어 학습용 데이터를 사용하는 다중 단계 학습알고리즘을 제안한다. 또한 컴퓨터 시뮬레이션에 의하여 항공영상 클러스터링 문제에 적용한 결과를 보임으로써 실제적인 문제에서의 적용 타당성과 가능성을 보인다.

스파이킹 신경망 추론을 위한 심층 신경망 가중치 변환 (Deep Neural Network Weight Transformation for Spiking Neural Network Inference)

  • 이정수;허준영
    • 스마트미디어저널
    • /
    • 제11권3호
    • /
    • pp.26-30
    • /
    • 2022
  • 스파이킹 신경망은 실제 두뇌 뉴런의 작동원리를 적용한 신경망으로, 뉴런의 생물학적 메커니즘으로 인해 기존 신경망보다 학습과 추론에 소모되는 전력이 적다. 최근 딥러닝 모델이 거대해지며 운용에 소모되는 비용 또한 기하급수적으로 증가함에 따라 스파이킹 신경망은 합성곱, 순환 신경망을 잇는 3세대 신경망으로 주목받으며 관련 연구가 활발히 진행되고 있다. 그러나 스파이킹 신경망 모델을 산업에 적용하기 위해서는 아직 선행되어야 할 연구가 많이 남아있고, 새로운 모델을 적용하기 위한 모델 재학습 문제 역시 해결해야 한다. 본 논문에서는 기존의 학습된 딥러닝 모델의 가중치를 추출하여 스파이킹 신경망 모델의 가중치로 변환하는 것으로 모델 재학습 비용을 최소화하는 방법을 제안한다. 또한, 변환된 가중치를 사용한 추론 결과와 기존 모델의 결과를 비교해 가중치 변환이 올바르게 작동함을 보인다.

ONNX기반 스파이킹 심층 신경망 변환 도구 (Conversion Tools of Spiking Deep Neural Network based on ONNX)

  • 박상민;허준영
    • 한국인터넷방송통신학회논문지
    • /
    • 제20권2호
    • /
    • pp.165-170
    • /
    • 2020
  • 스파이킹 신경망은 기존 신경망과 다른 메커니즘으로 동작한다. 기존 신경망은 신경망을 구성하는 뉴런으로 들어오는 입력 값에 대해 생물학적 메커니즘을 고려하지 않은 활성화 함수를 거쳐 다음 뉴런으로 출력 값을 전달한다. 뿐만 아니라 VGGNet, ResNet, SSD, YOLO와 같은 심층 구조를 사용한 좋은 성과들이 있었다. 반면 스파이킹 신경망은 기존 활성화함수 보다 실제 뉴런의 생물학적 메커니즘과 유사하게 동작하는 방식이지만 스파이킹 뉴런을 사용한 심층구조에 대한 연구는 기존 뉴런을 사용한 심층 신경망과 비교해 활발히 진행되지 않았다. 본 논문은 기존 뉴런으로 만들어진 심층 신경망 모델을 변환 툴에 로드하여 기존 뉴런을 스파이킹 뉴런으로 대체하여 스파이킹 심층 신경망으로 변환하는 방법에 대해 제안한다.

Spiking Neural Networks(SNN)를 위한 컴파일러 구조와 매핑 알고리즘 성능 분석 (A Structure of Spiking Neural Networks(SNN) Compiler and a performance analysis of mapping algorithm)

  • 김용주;김태호
    • 문화기술의 융합
    • /
    • 제8권5호
    • /
    • pp.613-618
    • /
    • 2022
  • SNN(Spiking Neural Networks) 기반의 인공지능 연구는 현재 유행하는 DNN(Deep Neural Networks) 기반의 인공지능의 한계를 극복할 수 있는 차세대 인공지능으로서 주목받고 있다. 본 논문에서는 SNN 형태의 입력을 뉴로모픽 컴퓨팅 시스템에서 구동시킬 수 있는 시스템 SW인 SNN 컴파일러의 구조에 대하여 설명한다. 또한 컴파일러 구현을 위하여 사용된 알고리즘을 소개하고 매핑 알고리즘의 동작 형태에 따라 뉴로모픽 컴퓨팅 시스템에서 수행시간이 어떻게 달라지는지에 대한 실험결과를 제시한다. 본문에서 제안한 매핑 알고리즘은 랜덤 매핑에 비해 최대 3.96배의 수행속도 향상이 있었다. 해당 연구 결과를 통해 SNN들을 다양한 뉴로모픽 하드웨어에서 적용할 수 있을 것이다.

Spiking Neural Networks 의 구간연산 학습알고리즘 (Interval Arithmetic Learning Algorithm for Spiking Neural Networks)

  • 이경희
    • 한국정보처리학회:학술대회논문집
    • /
    • 한국정보처리학회 2020년도 추계학술발표대회
    • /
    • pp.793-795
    • /
    • 2020
  • 본 논문에서는 스파이킹 뉴론(Spiking Neuron)들이 쿨롱에너지 포텐셜 (Coulomb Energy Potential)을 가지는 스파이킹 신경회로망에서의 학습알고리즘을 일반화하여 구간연산(Interval Arithmetic)의 학습이 가능한 학습알고리즘을 제안한다. 제안하는 학습알고리즘은 입력 데이터로서 구간(Interval) 데이터와 포인트(Point) 데이터를 모두 학습 할 수 있는 일반화된 학습알고리즘으로서 간단한 컴퓨터 시뮬레이션을 통하여 범위(Lower bound & Upper bound)를 가지는 구간데이터와 포인트데이터의 통합적인 학습이 가능하고 전문가시스템(expert system)에서의 "don't care attributes"의 학습 등에도 활용이 가능함을 보인다.

FPGA Implementation of an Artificial Intelligence Signal Recognition System

  • Rana, Amrita;Kim, Kyung Ki
    • 센서학회지
    • /
    • 제31권1호
    • /
    • pp.16-23
    • /
    • 2022
  • Cardiac disease is the most common cause of death worldwide. Therefore, detection and classification of electrocardiogram (ECG) signals are crucial to extend life expectancy. In this study, we aimed to implement an artificial intelligence signal recognition system in field programmable gate array (FPGA), which can recognize patterns of bio-signals such as ECG in edge devices that require batteries. Despite the increment in classification accuracy, deep learning models require exorbitant computational resources and power, which makes the mapping of deep neural networks slow and implementation on wearable devices challenging. To overcome these limitations, spiking neural networks (SNNs) have been applied. SNNs are biologically inspired, event-driven neural networks that compute and transfer information using discrete spikes, which require fewer operations and less complex hardware resources. Thus, they are more energy-efficient compared to other artificial neural networks algorithms.

A Novel Spiking Neural Network for ECG signal Classification

  • Rana, Amrita;Kim, Kyung Ki
    • 센서학회지
    • /
    • 제30권1호
    • /
    • pp.20-24
    • /
    • 2021
  • The electrocardiogram (ECG) is one of the most extensively employed signals used to diagnose and predict cardiovascular diseases (CVDs). In recent years, several deep learning (DL) models have been proposed to improve detection accuracy. Among these, deep neural networks (DNNs) are the most popular, wherein the features are extracted automatically. Despite the increment in classification accuracy, DL models require exorbitant computational resources and power. This causes the mapping of DNNs to be slow; in addition, the mapping is challenging for a wearable device. Embedded systems have constrained power and memory resources. Therefore full-precision DNNs are not easily deployable on devices. To make the neural network faster and more power-efficient, spiking neural networks (SNNs) have been introduced for fewer operations and less complex hardware resources. However, the conventional SNN has low accuracy and high computational cost. Therefore, this paper proposes a new binarized SNN which modifies the synaptic weights of SNN constraining it to be binary (+1 and -1). In the simulation results, this paper compares the DL models and SNNs and evaluates which model is optimal for ECG classification. Although there is a slight compromise in accuracy, the latter proves to be energy-efficient.

오픈 플랫폼 호환 지능형 IoT 컴포넌트 자동 생성 도구 (Automatic Generation Tool for Open Platform-compatible Intelligent IoT Components)

  • 김서연;정진만;김봉재;윤영선;장준혁
    • 스마트미디어저널
    • /
    • 제11권11호
    • /
    • pp.32-39
    • /
    • 2022
  • AI 서비스를 제공하는 IoT 응용이 늘어나면서 자율적인 학습 및 추론을 지원하는 다양한 하드웨어와 소프트웨어들이 개발되고 있다. 하지만 하드웨어마다 특성 및 제약조건이 상이하여 IoT 응용 개발에 어려움이 가중됨에 따라 통합된 플랫폼의 개발이 요구되고 있다. 본 논문에서는 IoT 기술뿐만 아니라 인공 신경망 및 스파이킹 신경망 기반의 컴포넌트를 오픈 플랫폼과 호환되도록 자동 생성하는 도구를 제안한다. 제안하는 컴포넌트 자동 생성 도구는 IoT 및 AI의 가상 컴포넌트 계층을 통해 다양한 하드웨어의 특성에 맞는 컴포넌트 생성을 용이하게 하고 자동으로 오픈 플랫폼에 적용할 수 있도록 지원한다.

FPGA상에서 스파이킹 뉴럴 네트워크 지원을 위한 모델 최적화 (Model Optimization for Supporting Spiking Neural Networks on FPGA Hardware)

  • 김서연;윤영선;홍지만;김봉재;이건명;정진만
    • 스마트미디어저널
    • /
    • 제11권2호
    • /
    • pp.70-76
    • /
    • 2022
  • 클라우드 서버를 이용한 IoT 응용 개발은 네트워크로 연결된 하드웨어에 데이터 송수신 지연, 네트워크 트래픽, 실시간 처리 지원을 위한 비용 등의 문제가 발생한다. 엣지 클라우드 기반 플랫폼에서는 이러한 문제를 해결하기 위해 빠른 데이터 전달이 가능하도록 뉴로모픽 하드웨어를 사용할 수 있다. 본 논문에서는 FPGA상에서 스파이킹 뉴럴 네트워크를 위한 모델 최적화 기법을 제안한다. 뉴로모픽 하드웨어에 최적화된 네트워크 모델 파라미터를 자동 조정하는 것에 초점을 맞추었다. 정확도에 대한 사용자 요구사항을 기반으로 더 높은 성능을 보이도록 최적화를 수행한다. 성능 분석 결과, 기존의 오픈 프레임워크에서 지원하는 고정 기법과 달리 사용자의 요구사항을 모두 만족하였으며 수행시간 측면에서 더 높은 성능을 보였다.