• 제목/요약/키워드: 다계층 신경망

검색결과 19건 처리시간 0.031초

엔트로피 모델을 활용한 심층 신경망 기반 오디오 압축 모델 최적화 (DNN-based Audio Compression Model Optimization Utilizing Entropy Model)

  • 임형섭;강홍구;장인선
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송∙미디어공학회 2022년도 하계학술대회
    • /
    • pp.54-57
    • /
    • 2022
  • 본 논문에서는 심층 신경망 기반 점진적 다계층 오디오 코덱의 비트 전송률 효율 향상을 위한 엔트로피 모델 기반 양자화 방식을 제안한다. 최근 심층 신경망을 이용하여 전통적인 신호 처리 이론 기반의 상용 오디오 코덱들을 대체하기 위한 오디오 압축 및 복원 시스템에 관한 연구가 활발하게 이루어지고 있다. 그러나 아직은 기존 상용 코덱의 성능에 도달하지 못하고 있으며 특히 종단 간 오디오 압축 모델의 경우, 적은 정보량으로 높은 품질을 얻기 위해서는 부호화기의 양자화 구조를 개선하는 것이 필수적이다. 본 연구에서는 기존에 제안된 종단 간 오디오 압축 모델 중 하나인 점진적 다계층 오디오 코덱의 벡터 양자화기를 엔트로피 모델 기반 양자화기로 대체하고 전송률-왜곡 트레이드오프 관계를 활용하여 전송률을 다양한 형태로 조절할 수 있음을 보임으로써 엔트로피 모델 기반 양자화기 도입의 타당성을 검증한다.

  • PDF

패턴인식용 VLSI 펄스형 디지탈 다계층 신경망의 구조및 동작 특성 (A VLSI Pulse-mode Digital Multilayer Neural Network for Pattern Classification : Architecture and Computational Behaviors)

  • 김영철;이귀상
    • 전자공학회논문지B
    • /
    • 제33B권1호
    • /
    • pp.144-152
    • /
    • 1996
  • 대규모 병렬처리가 가능하고 칩당 뉴론 집적도가 높은 펄스형 디지털 다계층 신경망 구조를 제안하였다. 제안된 신경망에서는 대수적인 신경망연산이 의사-랜덤 펄스 시퀀스(pseudo-random pulse sequences)와 단순 디지털 논리 게이트를 이용하여 확률적 프로세스로 대치되었다. 확률적 프로세스의 결과로 나타나는 신경망 연산의 통계적 모델을 제시하였으며 이를 바탕으로 랜덤잡음의 영향과 연산의 정확도를 분석하였다. 이진인식 문제를 적용하여 제안된 신경망의 성능을 평가하고 제시한 통계적 분석결과의 정당성을 검증하였다. Gate 레벨과 register transfer 레벨로 기술된 신경망의 VHDL 모델의 시뮬레이션 결과는 개발된 통계적모델로 예측된 인식추정치와 실제 인식률이 거의 일치함을 보였으며, 또한 숫자인식률에 있어서도 일반 Back-Propagation 신경망의 인식률과 거의 차이가 없음을 보였다.

  • PDF

인공신경망의 연결압축에 대한 연구 (A Study on Compression of Connections in Deep Artificial Neural Networks)

  • 안희준
    • 한국산업정보학회논문지
    • /
    • 제22권5호
    • /
    • pp.17-24
    • /
    • 2017
  • 최근 딥러닝, 즉 거대 또는 깊은 인공신경망을 사용한 기술이 놀라운 성능을 보이고 있고, 점차로 그 네트워크의 규모가 커지고 있다. 하지만, 신경망 크기의 증가는 계산양의 증가로 이어져서 회로의 복잡성, 가격, 발열, 실시간성 제약 등의 문제를 야기한다. 또한, 신경망 연결에는 많은 중복성이 존재한다, 본 연구에서는 이 중복성을 효과적으로 제거하여 이용하여 원 신경망의 성능과 원하는 범위안의 차이를 보이면서, 네트워크 연결의 수를 줄이는 방법을 제안하고 실험하였다. 특히, 재학습에 의하여 성능을 향상시키고, 각 계층별 차이를 고려하기 위하여 계층별 오류율을 할당하여 원하는 성능을 보장할 수 있는 간단한 방법을 제안하였다. 대표적인 영상인식 신경망구조인 FCN (전연결) 구조와 CNN (컨벌루션 신경망) 구조에서 대하여 실험한 결과 약 1/10 정도의 연결만으로도 원 신경망과 유사한 성능을 보일 수 있음을 확인하였다.

DS/CDMA통신에서 다경로 페이딩 간섭 제거를 위한 반복적 최소 자승 역전파 신경망 알고리즘 (Recursive Least Square Backpropagation Neural Network Algorithm for Rejection of Multi-path Fading Interference in DS/CDMA Communication Systems)

  • 김광준;나상동
    • 한국정보과학회논문지:시스템및이론
    • /
    • 제26권4호
    • /
    • pp.464-471
    • /
    • 1999
  • DS/CDMA 시스템은 이동통신 시스템에서 다중경로, 고의적인 반방해 전파 및 동일대역폭을 공유하기 위한 다중 사용자에 의해 발생되는 협대역 간섭과 부가적인 백색가우시안 잡음을 제거한다. 본 논문에서는 다계층 퍼셉트론을 기반으로 한 역전파 신경망을 이용한 정합필터 채널 모델이 DS/CDMA 이동 통신 시스템에서 직접 순차 확산 스펙트럼의 협대역 간섭을 고려하면서 신호 대 잡음비와 전송 전력비에 따른 컴퓨터시뮬레이션 결과는 역전파 신경망을 이용한 정합 필터의 비트 에러율이 직접 순차 확산 스펙트럼의 RAKE 수신기의 비트 에러 율보다 적음을 입증하였다.

CDMA 하향링크의 간섭제거를 위한 새로운 다계층 신경망의 복잡도 개선에 관한 연구 (Simplified Multilayer Perceptron for Interference Cancellation of CDMA Forward Link)

  • 이봉희;김종민;이상규;한영수;황인관
    • 한국통신학회논문지
    • /
    • 제28권3C호
    • /
    • pp.271-278
    • /
    • 2003
  • 본 논문에서는 CDMA 하향링크에서 최적화가 용이한 새로운 다층 신경망을 제안하고 이를 적용한 신경망 수신기를 레이크 수신기와 비교하여 CDMA 하향링크에서 간섭이 제거되어 성능이 개선되었음을 입증하였다. 새로운 다층신경망은 기존의 다층신경망에 비해 시스템 복잡도가 개선되고 최적화가 용이하면서 기존의 다층신경망과 동일한 간섭제거에 의한 성능 향상 효과를 얻을 수 있어 실제 시스템에 적용하기에 적합하다. CDMA 하향링크에서 요구되는 고속의 데이터 전송을 위해 BLAST를 시작으로 STS, STTC, STC 등 다양한 STD 기술들이 제시되었으나 타사용자의 정보부재로 다중사용자 검파가 불가하고 충분한 수의 안테나를 장착할 수 없는 하향링크의 한계로 실질적으로 채널효율증대 효과가 미흡한 실정이다. [10]-[15]이러한 문제점을 해결하기 위하여 복잡한 채널환경에 대해 적응능력이 뛰어나고, 고속의 병렬처리의 장점을 갖으며, 실시간 구현이 용이한 최적화된 단계층 신경망을 이용해서 다중사용자 간섭을 제거하였다. 여기에 STC 기술들을 접목시킨다면 CDMA 단말기의 획기적인 채널효율증대 가능성을 기대할 수 있을 것이다.

DS/SS 통신에서 BISP 알고리즘을 이용한 탭 가중치 갱신 (Tap-Weight Update Multilayer Neural Network using BISP Algorithm in DS/SS Communication)

  • 석경휴;김문환;임영진;김광준;배철수;나상동
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2003년도 춘계종합학술대회
    • /
    • pp.712-716
    • /
    • 2003
  • 본 논문은 신경망을 이용한 간섭 신호 제어로써 복합 다중 퍼셉트론에서 DS/SS 이동 통신에서의 수신된 신호들을 역전파 학습알고리즘을 이용하여 검출하는 것에 대하여 연구한다. 수신 신호가 일정한 비트율을 갖는 채널에 전송하기 위하여 신경망을 이용한 새로운 탭 가중치 갱신 제어 방법을 제안한다. 적응 횡단선 필터는 심볼간의 채널에 발생하는 상호 심볼간 간섭을 억압하기 위해 LMS 알고리즘 사용한다. 이 알고리즘은 원하는 응답과 실제 출력간의 차인 에러를 이용하여 탭 가중치 조절 메카니즘을 통해 탭 가중치를 갱신함으로서 효과적으로 간섭을 제거하였다. 본 논문은 상호 심볼간 간섭을 효율적으로 억압해온 기존의 LMS 알고리즘에 다계층 퍼셉트론 신경망을 조합한 새로운 BISP 알고리즘을 제안하였으며, 제안된 알고리즘을 통해 탭 가중치 갱신이 보다 효율적으로 이루어짐을 알 수 있다. 시뮬레이션 결과를 통해 제안된 알고리즘의 평균 자승 에러의 수렴 특성이 기존 LMS 알고리즘을 이용한 수렴특성보다 우월하다는 것을 나타내었다.

  • PDF

귀납적 학습방법들의 분류성능 비교 : 기업신용평가의 경우 (Classification Performance Comparison of Inductive Learning Methods : The Case of Corporate Credit Rating)

  • 이상호;지원철
    • 지능정보연구
    • /
    • 제4권2호
    • /
    • pp.1-21
    • /
    • 1998
  • 귀납적 학습방법들의 분류성능을 비교 평가하기 위하여 대표적 분류문제의 하나인 신용평가 문제를 사용하였다. 분류기로서 사용된 귀납적 학습방법론들은 통계학의 다변량 판별분석(MDA), 기계학습 분야의 C4.5, 신경망의 다계층 퍼셉트론(MLP) 및 Cascade Correlation Network(CCN)의 4 가지이며, 학습자료로는 국내 3개 신용평가기관이 발표한 신용등급 및 공포된 재무제표를 사용하였다. 신용등급 예측의 정확도에 의한 분류성능을 평가하였는데 연도별 평가와 시계열 평가의 두 가지를 실시하였다. Cascade Correlation Network이 가장 좋은 분류성능을 보였지만 4가지 분류기들 사이에 통계적으로 유의한 차이는 발견되지 않았다. 이는 사용된 학습자료가 갖는 한계로 인한 것으로 추정되지만, 성능평가 과정에 있어 학습자료의 전처리 과정이 분류성과의 제고에 매우 유효함이 입증되었다.

  • PDF

이동 무선 통신에서 신경망을 이용한 간섭 신호 제어 (Interference Signal Control using Neural Network in Digital Mobile Communication)

  • 나상동;배철수
    • 한국정보통신학회논문지
    • /
    • 제2권1호
    • /
    • pp.109-116
    • /
    • 1998
  • 본 논문은 DS-SS 이동 통신 시스템에서 복합 다계층 퍼셉트론 신경망을 이용한 간섭 신호 제어로써 직접순차 확산 스펙트럼의 협대역 간섭 신호를 역전파 학습 알고리즘을 이용하여 억압하고, 컴퓨터 시뮬레이션을 통해 동일 채널 간섭과 협대역 간섭의 실제 톤(Tone)에서 빠른 수렴 비율과 더 좋은 성능을 가지는 복소수 역전파 알고리즘으로부터 제안된 새로운 복합 (CBPRLS)알고리즘은 기존의 RAKE 수신기보다 더 낮은 비트 에러 율을 가지는 NNAC(Neural Network Adaptive Correlator)를 통해 간섭 신호가 보다 효율적으로 제어됨을 분석 고찰한다.

  • PDF

LMSBP 알고리즘을 이용한 탭 가중치 갱신을 통한 수렴 특성에 관한 연구 (A Study on the Convergence Characteristics Through Tap Weight Updating with LMSBP Algorithm)

  • 배용근
    • 한국정보과학회:학술대회논문집
    • /
    • 한국정보과학회 1999년도 가을 학술발표논문집 Vol.26 No.2 (3)
    • /
    • pp.280-282
    • /
    • 1999
  • 적응 횡단선 심볼간의 채널에 발생하는 상호 심볼간 간섭을 억압하기 위해 LMS 알고리즘을 사용한다. 이 알고리즘은 원하는 응답과 실제 출력간의 차인 에러를 이용하여 탭 가중치 조절 메카니즘을 통해 탭 가중치를 갱신함으로서 효과적으로 간섭을 제거하였다. 본 논문은 상호 심볼간 간섭을 효율적으로 억압해온 기존의 LMS알고리즘에 다계층 퍼셉트론 신경망을 조합 한 새로운 LMSBP 알고리즘을 제안하였으며, 제안된 알고리즘을 토해 탭 가중치 갱신이 보다 효율적으로 이루어짐을 알 수 있다. 시뮬레이션 결과를 통해 제안된 알고리즘의 평균 자승 에러의 수렴 특성이 LMS 알고리즘을 이용한 수렴특성보다 우월하다는 것을 나타내었다.

  • PDF

활성화 함수 근사를 통한 지수함수 기반 신경망 마스킹 기법 (Masking Exponential-Based Neural Network via Approximated Activation Function)

  • 김준섭;김규상;박동준;박수진;김희석;홍석희
    • 정보보호학회논문지
    • /
    • 제33권5호
    • /
    • pp.761-773
    • /
    • 2023
  • 본 논문에서는 딥러닝 분야에서 사용되는 신경망 모델, 그중에서도 다중 계층 퍼셉트론 모델에 사용되는 지수함수 기반의 활성화 함수를 근사 함수로 대체하고, 근사 함수에 마스킹을 적용함으로써 신경망 모델의 추론 과정의 전력 분석 저항성을 높이는 방법을 제안한다. 이미 학습된 값을 사용하여 연산하는 인공 신경망의 추론 과정은 그 특성상 가중치나 편향 등의 내부 정보가 부채널 공격에 노출될 위험성이 있다. 다만 신경망 모델의 활성화 함수 계층에서는 매우 다양한 함수를 사용하고, 특히 지수함수 기반의 활성화 함수에는 마스킹 기법 등 통상적인 부채널 대응기법을 적용하기가 어렵다. 따라서 본 연구에서는 지수함수 기반의 활성화 함수를 단순한 형태로 근사하여도 모델의 치명적인 성능 저하가 일어나지 않음을 보이고, 근사 함수에 마스킹을 적용함으로써 전력 분석으로부터 안전한 순방향 신경망 모델을 제안하고자 한다.