• 제목/요약/키워드: Gaussian Quantizer

검색결과 12건 처리시간 0.025초

Signal-to-Noise Ratio Formulas of a Scalar Gaussian Quantizer Mismatched to a Laplacian Source

  • 이재건;나상신
    • 한국통신학회논문지
    • /
    • 제36권6C호
    • /
    • pp.384-390
    • /
    • 2011
  • The paper derives formulas for the mean-squared error distortion and resulting signal-to-noise (SNR) ratio of a fixed-rate scalar quantizer designed optimally in the minimum mean-squared error sense for a Gaussian density with the standard deviation ${\sigma}_q$ when it is mismatched to a Laplacian density with the standard deviation ${\sigma}_q$. The SNR formulas, based on the key parameter and Bennett's integral, are found accurate for a wide range of $p\({\equiv}\frac{\sigma_p}{\sigma_q}\){\geqq}0.25$. Also an upper bound to the SNR is derived, which becomes tighter with increasing rate R and indicates that the SNR behaves asymptotically as $\frac{20\sqrt{3{\ln}2}}{{\rho}{\ln}10}\;{\sqrt{R}}$ dB.

표본 적응 프로덕트 양자기에 기초한 격자 벡터 양자화의 엔트로피 부호화와 무기억성 가우시언 분포에 대한 성능 분석 (Entropy-Coded Lattice Vector Quantization Based on the Sample-Adaptive Product Quantizer and its Performance for the Memoryless Gaussian Source)

  • 김동식
    • 전자공학회논문지
    • /
    • 제49권9호
    • /
    • pp.67-75
    • /
    • 2012
  • 높은 전송률에서 엔트로피 제한 양자화를 수행 시 최적의 양자기는 격자(lattice) 형태의 부호책을 가지는데, 규칙적인 구조로 인하여 양자화 과정이 단순하며, 격자의 형태에 따라 여러 양자화 알고리듬이 제안되어있다. 이러한 격자 벡터 양자기(vector quantizer: VQ)는 표본 적응 프로덕트 양자기(sample-adaptive product quantizer: SAPQ)를 사용하여 구현이 가능하며, 그 출력도 단순하게 엔트로피 부호화가 가능하다. 본 논문에서는 SAPQ에 기초한 엔트로피 부호화 방법을 제안하고, 무기억성(memoryless) 가우시언 분포에 대하여 여러 제안한 격자 VQ를 구현하고 양자화 에러 곡선을 엔트로피에 대하여 구하여 그 성능을 비교하였다. 실험을 통하여 전송률이 증가하면서 균등 분포에 이론적으로 얻는 이득과 비슷한 이득을 무기억성 가우시언 분포에서도 SAPQ의 출력을 엔트로피 부호화함으로 얻을 수 있음을 확인하였다.

DZDC Coefficient Distributions for P-Frames in H.264/AVC

  • Wu, Wei;Song, Bin
    • ETRI Journal
    • /
    • 제33권5호
    • /
    • pp.814-817
    • /
    • 2011
  • In this letter, the distributions of direct current (DC) coefficients for P-frames in H.264/AVC are analyzed, and the distortion model of the Gaussian source under the quantization of the dead-zone plus-uniform threshold quantization with uniform reconstruction quantizer is derived. Experimental results show that the DC coefficients of P-frames are best approximated by the Laplacian distribution and the Gaussian distribution at small quantization step sizes and at large quantization step sizes, respectively.

변환부호화된 영상신호에 대한 채널 오류의 영향 (Effects of Channel Errors on Transform-Coded Image Signals)

  • 백종기;문상재
    • 한국통신학회논문지
    • /
    • 제12권3호
    • /
    • pp.216-223
    • /
    • 1987
  • 본 논문에서는 영상신호의 변환부호화 시스템에서 통계적으로 독립적인 채널 전송오류의 영향을 MSE로 계산하였다. 양자화가 입력신호의 확률밀도함수를 Laplacian, Gaussian, 그리고 uniform분포로 가정하였으며, 양자화된 신호의 부호화시 사용되는 코드로는 NBC, FBC, MDC 및 Gray code가 고려되었다. 본 연구의 결과들로부터, 양자화기입력신호의 확률밀도함수에 따라 어떠한 코드로 부호화하는 것이 채널 전송오류의 영향을 작게 받는가를 알 수 있다.

  • PDF

강한 광대역정규잡음 환경에서 GPS 상용 수신기 양자화기의 변환 손실 분석 (Conversion Loss for the Quantizer of GPS Civil Receiver in Heavy Wideband Gaussian Noise Environments)

  • 유승수;김선용
    • 한국통신학회논문지
    • /
    • 제38A권9호
    • /
    • pp.792-797
    • /
    • 2013
  • 본 논문에서는 강한 광대역정규잡음 환경에서 송신한 확산신호와 수신기에서 발생한 확산신호의 동기에 따른 2비트 비균등 양자화기의 변환손실을 (conversion loss) 분석하고, 이를 통해 변환손실이 최소인 2비트 비균등 양자화기의 출력은 ${\pm}1$, ${\pm}2$이고, 양자화 간격은 재밍 대 신호 전력비로 근사화할 수 있음을 보인다.

화자독립 음성인식을 위한 GMM 기반 화자 정규화 (Speaker Normalization using Gaussian Mixture Model for Speaker Independent Speech Recognition)

  • 신옥근
    • 정보처리학회논문지B
    • /
    • 제12B권4호
    • /
    • pp.437-442
    • /
    • 2005
  • 화자독립 음성인식기의 화자 정규화를 위해 GMM(Gaussian mixture model)분포를 이용하는 방법에 대해 실험한다. 이 방법은 벡터 양자화기를 이용한 선행 연구를 개선한 것으로, 정규화된 학습용 특징벡터들의 확률분포를 최적의 클러스터의 수를 갖는 GMM분포로 모델링한 다음, 이 분포를 이용하여 시험용화자의 워핑계수를 추정한다. 이 연구의 목적은 기존의 ML을 이용한 방법의 단점을 개선하는 동시에 벡터 양자화기를 이용한 선행연구와'soft decision'이라 불리는 확률 분포를 이용한 방법의 성능을 비교하는데 있다. TIMIT 코퍼스를 대상으로 한 음소 인식 실험에서 클러스터의 수를 적절한 크기로 설정한 GMM분포를 이용함으로써 벡터 양자화기를 이용한 방법에 비해 약간 나은 인식률을 얻을 수 있었다.

VQ의 코드북 생성을 위한 LBG 알고리즘의 개선에 관한 연구 (A Study on an Improved LBG Algorithm to Design the Code Book of VQ)

  • 김장한
    • 한국통신학회논문지
    • /
    • 제25권1A호
    • /
    • pp.48-55
    • /
    • 2000
  • 본 논문에서는 모의 실험을 통하여, 데이터의 분포가 Gauss 분포, 균등 분포 등의 경우, 어느 한 구간이 다른 구간에 비하여 확률도 크고 구간내의 오차도 크다면 이는 최적 양자화가 아니다라는 가정을 하였다. 이 가정을 LBG 알고리즘에 추가하여 수정된 LBG 알고리즘을 만들고, 이 알고리즘의 성능을 측정하였다. 수정된 알고리즘에 의한 코드 북의 오차는 본래의 알고리즘에 비하여 오차의 크기도 감소하였고, 오차의 편차도 감소하였다.

  • PDF

A Modified Soft Output Viterbi Algorithm for Quantized Channel Outputs

  • Lee Ho Kyoung;Lee Kyoung Ho
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2004년도 학술대회지
    • /
    • pp.663-666
    • /
    • 2004
  • In this paper, a modified-SOYA (soft output viterbi algorithm) of turbo codes is proposed for quantized channel receiver filter outputs. We derive optimum branch values for the Viterbi algorithm. Here we assume that received filter outputs are quantized and the channel is additive white Gaussian noise. The optimum non-uniform quantizer is used to quantize channel receiver filter outputs. To compare the BER (bit error rate) performance we perform simulations for the modified SOYA algorithm and the general SOYA

  • PDF

무선통신에서의 Non-Linear Detector System 설계 (The System of Non-Linear Detector over Wireless Communication)

  • 공형윤
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 1998년도 하계종합학술대회논문집
    • /
    • pp.106-109
    • /
    • 1998
  • Wireless communication systems, in particular, must operate in a crowded electro-magnetic environmnet where in-band undesired signals are treated as noise by the receiver. These interfering signals are often random but not Gaussian Due to nongaussian noise, the distribution of the observables cannot be specified by a finite set of parameters; instead r-dimensioal sample space (pure noise samples) is equiprobably partitioned into a finite number of disjointed regions using quantiles and a vector quantizer based on training samples. If we assume that the detected symbols are correct, then we can observe the pure noise samples during the training and transmitting mode. The algorithm proposed is based on a piecewise approximation to a regression function based on quantities and conditional partition moments which are estimated by a RMSA (Robbins-Monro Stochastic Approximation) algorithm. In this paper, we develop a diversity combiner with modified detector, called Non-Linear Detector, and the receiver has a differential phase detector in each diversity branch and at the combiner each detector output is proportional to the second power of the envelope of branches. Monte-Carlo simulations were used as means of generating the system performance.

  • PDF

DSP를 사용한 4채널용 ADPCM CODEC의 실시간 구현에 관한 연구 (Implementation of a 4-Channerl ADPCM CODEC Using a DSP)

  • 이의택;이강석;이상욱
    • 대한전자공학회논문지
    • /
    • 제22권5호
    • /
    • pp.29-38
    • /
    • 1985
  • 본 논문에서는 파형 코우딩 방식에 속하는 ADPCM을 NEC 7720 DSP를 사용하여 간단하고 성능이 우수하며 유연성 (flexibility)이 뛰어난 ADPCM cosec을 실시간 구현을 하였다. ADPCM 알고리듬은 적응 양자기와 1차의 고정예측기를 사용하였으며 프로그램을 최적화하여 하나의 NEC 7720으로 4 채널을 동시에 부호화 또는 복호화 할 수 있도록 하였다. 실제 전화음성과 RC 정형 Gaussian 잡음 및 1004Ht 정현파를 사용한 컴퓨터 시뮬레이tus으로부터 NEC 7720의 연산 정확도를 조사하였으며, SNR 및 청각조사로 부터 알고리듬 수행에 필요한 값들을 결정하였다. NEC 7720의 소프트웨어는 real-time hardware emulator로 실시간 동작을 확인하였는데 부호기에서 1샘플을 부호화하는데 최대 23. 25μs가 걸리고 4 채널을 모두 부호화하는데 113.5μs가 필요하였으며, 복호기에서는 각각 24. 75μs와 119. 5μs가 소요되었다.

  • PDF