• 전자공학회논문지C
• /
• 제35C권2호
• /
• pp.56-64
• /
• 1998

Multi-layered perceptrons that are a nonlinear neural network model, have been widely used for various applications mainly thanks to good function approximation capability for nonlinear fuctions. However, for digital hardware implementation of the multi-layere perceptrons, the quantization scheme using "look-up tables (LUTs)" is commonly employed to handle nonlinear signmoid activation functions in the neworks, and thus requires large amount of storage to prevent unacceptable quantization errors. This paper is concerned with a new effective methodology for digital hardware implementation of multi-layered perceptrons, and proposes a "piecewise affine approximation" method in which input domain is divided into (small number of) sub-intervals and nonlinear sigmoid function is linearly approximated within each sub-interval. Using the proposed method, we develop an expression and an error backpropagation type learning algorithm for a multi-layered perceptron, and compare the performance with the quantization method through Monte Carlo simulations on XOR problems. Simulation results show that, in terms of learning convergece, the proposed method with a small number of sub-intervals significantly outperforms the quantization method with a very large storage requirement. We expect from these results that the proposed method can be utilized in digital system implementation to significantly reduce the storage requirement, quantization error, and learning time of the quantization method.quantization method.

• 대한전자공학회:학술대회논문집
• /
• 대한전자공학회 2000년도 제13회 신호처리 합동 학술대회 논문집
• /
• pp.667-670
• /
• 2000

This paper provides a heuristic theory for modeling and analysis of vector quantization effects in 2-dimensional subband filter banks. This model is used as the basis for optimal filter bank design. The scalar non-linear gain-plus-additive noise quantization model can be used to represent each vector quantizer in 2-band subband codec. The validity and accuracy and of this analytic model is confirmed by comparing the calculated model quantization errors with actual simulation of the optimum LBG vector quantizer. Numerical design examples for the optimum separable paraunitary filter banks are suggested in this paper.

• 로봇학회논문지
• /
• 제17권2호
• /
• pp.133-141
• /
• 2022

This paper introduces model compression algorithms which make a deep neural network smaller and faster for embedded systems. The model compression algorithms can be largely categorized into pruning, quantization and knowledge distillation. In this study, gradual pruning, quantization aware training, and knowledge distillation which learns the activation boundary in the hidden layer of the teacher neural network are integrated. As a large deep neural network is compressed and accelerated by these algorithms, embedded computing boards can run the deep neural network much faster with less memory usage while preserving the reasonable accuracy. To evaluate the performance of the compressed neural networks, we evaluate the size, latency and accuracy of the deep neural network, DenseNet201, for image classification with CIFAR-10 dataset on the NVIDIA Jetson Xavier.

• 대한전자공학회논문지SP
• /
• 제45권3호
• /
• pp.93-102
• /
• 2008

본 논문에서는 동영상의 화질을 일정하게 하기 위한 실시간 비트율 제어 기법을 제안한다. 일정 화질을 만족하기 위한 기존의 비트율 제어 알고리즘은 프레임의 부호화 복잡도를 잔여 신호인 MAD(mean absolute of difference)로 추정하여 비트 할당을 수행하였다. 그러나 MAD는 영상의 특성이나 부호화 파라미터에 따라 동일한 MAD라도 다른 비트를 생성하므로 영상의 부호화 복잡도를 적절히 나타내기 어렵다. 본 논문에서는 이 문제를 해결하기 위해 비트와 MAD사이의 기울기인 모델 파라미터를 프레임의 복잡도의 측도로 보고 이전 프레임과 현재 프레임의 모델 파라미터의 비율로 비트 할당을 수행한다. 또한 기존의 비트-복잡도 모델에서 구한 모델 파라미터는 양자화 파라미터가 변함에 따라 그 값이 크게 변하여 영상의 내재적 복잡도를 나타내기 어렵다. 따라서 본 논문에서는 비트-복잡도 모델에 양자화 파라미터를 추가하여 양자화 파라미터가 변하더라도 영상의 복잡도의 측도인 모델 파라미터는 변하지 않게 하였다. 광범위한 실험결과는 제안한 알고리즘이 기존의 알고리즘에 비해 비슷한 평균 화질을 유지하면서 화질의 변동을 큰 폭으로 줄였음을 보여준다.

• The Journal of the Acoustical Society of Korea
• /
• 제16권1E호
• /
• pp.41-48
• /
• 1997

The very purpose of subband codec is the attainment of data rate compression through the use of quantizer and optimum bit allocation for each decimated signal. Yet the question of floating-point quantization effects in subband codec has received scant attention. There has been no direct focus on the analysis of quantization errors, nor on design with quantization errors embedded explicitly in the criterion. This paper provides a rigorous theory for the modelling, analysis and optimum design of the general M-band subband codec in the presence of the floating-point quantization noise. The floating-point quantizers are embedded into the codec structure by its equivalent multiplicative noise model. We then decompose the analysis and synthesis subband filter banks of the codec into the polyphase form and construct an equivalent time-invariant structure to compute exact expression for the mean square quantization error in the reconstructed an equivalent time-invariant structure to compute exact expression for the mean square quantization error in the reconstructed output. The optimum design criteria of the subband codec is given to the design of the analysis/synthesis filter bank and the floating-point quantizer to minimize the output mean square error. Specific optimum design examples are developed with two types of filter of filter banks-orthonormal and biorthogonal filter bank, along with their perpormance analysis.

• 방송공학회논문지
• /
• 제19권3호
• /
• pp.329-341
• /
• 2014

커널 기반 평균 이동 물체 추적(kernel-based mean-shift object tracking) 방법은 신뢰할 수 있는 물체 추적의 실시간 구현이 가능하기 때문에 최근 많은 관심을 받고 있다. 이 알고리즘은 표적 모델과 표적 후보 간의 히스토그램 유사성 비교를 통해 최적의 평균이동 벡터를 찾는데, 실시간 구현을 위해 대부분의 알고리즘에서는 색-공간의 균일 양자화를 수행한다. 하지만, 영상의 명암 분포가 편중되어 있는 경우 색-공간의 양자화 후 히스토그램 분포가 몇 몇 빈에 집중되기 때문에 히스토그램 유사성 비교의 정확도를 감소시키게 되고, 따라서 추적의 성능이 저하될 수 있다. 이러한 문제를 해결하기 위해 히스토그램 빈을 적응적으로 조절하는 비-균일 양자화 알고리즘이 제안되었으나 높은 복잡도로 인해 실시간 추적 알고리즘에 부적합한 단점을 갖고 있다. 이에 본 논문에서는 표적 모델에 대한 히스토그램 평활화를 수행한 후 색-공간의 균일 양자화를 수행하는 형태의 고속 비-균일 양자화 기법을 제안함으로써, 색-공간 양자화 후에도 표적 모델의 명암 분포가 전 색-영역에 고르게 분포되도록 함으로써 실시간 평균 이동 추적 기법의 추적 성능이 개선될 수 있도록 하였다. 제안하는 색-공간 양자화 기법을 통해 표적 모델과 비교 후보군 사이에 비교 대상이 되는 색 요소가 증가하게 되며, 보다 정확도 높은 히스토그램 유사성 결과를 얻을 수 있었다. 물체 추적용 영상을 통한 실험 결과, 제안하는 알고리즘은 복잡도 증가가 거의 발생하지 않는 동시에, 기존 비-균일 양자화 알고리즘 결과와 유사하거나 좀 더 나은 추적 결과를 보여주었다.

• 한국음향학회지
• /
• 제20권7호
• /
• pp.76-82
• /
• 2001

본 논문에서는 7 kHz 대역의 광대역 신호 압축기를 위한 새로운 양자화 방법을 제안한다. 일반적인 광대역 신호 압축기는 입력 신호를 주파수 영역으로 변환하고 청각 모델을 적용하여 주파수 대역별로 양자화하여 Huffman 코딩하는 구조를 가진다. 그러나, 주파수 대역별로 신호의 특성이 일정하지 않으므로 모든 대역을 동일한 방법으로 양자화하면 각 주파수 대역의 특성에 적합한 양자화를 하지 못하므로 전체 압축기의 성능이 저하된다. 따라서 본 논문에서는 각 주파수 대역별로 특성을 분석하여 주파수 영역 또는 시간 영역 중에서 양자화에 효율적인 영역을 선택하여 양자화 하는 새로운 방법을 제안한다. 제안한 양자화 방법의 성능을 측정하여 ITU G.722.1 표준 압축기의 양자화 방법보다 우수한 성능을 가지는 것을 확인하였다.

• 한국인터넷방송통신학회논문지
• /
• 제21권1호
• /
• pp.93-98
• /
• 2021

딥 러닝의 발전으로 다양한 AI 기반의 응용이 많아지고, 그 모델의 규모도 매우 커지고 있다. 그러나 임베디드 기기와 같이 자원이 제한적인 환경에서는 모델의 적용이 어렵거나 전력 부족 등의 문제가 존재한다. 이를 해결하기 위해서 클라우드 기술 또는 오프로딩 기술을 활용하거나, 모델의 매개변수 개수를 줄이거나 계산을 최적화하는 등의 경량화 방법이 제안되었다. 본 논문에서는 다양한 프레임워크들의 상호 교환 포맷으로 사용되고 있는 ONNX(개방형 신경망 교환 포맷) 포맷에 딥러닝 경량화 방법 중 학습된 모델의 양자화를 적용한다. 경량화 전 모델과의 신경망 구조와 추론성능을 비교하고, 양자화를 위한 다양한 모듈 방식를 분석한다. 실험을 통해 ONNX의 양자화 결과, 정확도는 차이가 거의 없으며 기존 모델보다 매개변수 크기가 압축되었으며 추론 시간 또한 전보다 최적화되었음을 알 수 있었다.

• ETRI Journal
• /
• 제38권1호
• /
• pp.185-194
• /
• 2016

In this paper, a novel rate control scheme for low delay video coding of High Efficiency Video Coding (HEVC) is proposed. The proposed scheme is developed by considering a new temporal prediction structure of HEVC. In the proposed scheme, the relationship between bit rate and quantization step is exploited firstly to formulate an accurate quadratic rate-quantization (R-Q) model. Secondly, a method of determining the quantization parameters (QPs) for the first frames within a group of pictures is proposed. Thirdly, an accurate frame-level bit allocation method is proposed for HEVC. Finally, based on the proposed R-Q model and the target bit allocated for the frame, the QPs are predicted for coding tree units by using rate-distortion (R-D) optimization. We compare our scheme against that of three other state-of-the-art rate control schemes. Experimental results show that the proposed rate control scheme can increase the Bjøntegaard delta peak signal-to-noise ratio by 0.65 dB and 0.09 dB on average compared with the JCTVC-I0094 and JCTVC-M0036 schemes, respectively, both of which have been implemented in an HEVC test model encoder; furthermore, the proposed scheme achieves a similar R-D performance to Wang's scheme, as well as obtaining the smallest bit rate mismatch error of all the schemes.

• 한국음향학회지
• /
• 제43권2호
• /
• pp.243-252
• /
• 2024

최근에 연구되기 시작한 폴리(Foley) 음향 생성 모델 중 벡터 양자화 변분 오토인코더(Vector Quantized-Variational AutoEncoder, VQ-VAE) 구조와 Pixelsnail 등 생성모델을 활용한 생성 기법은 중요한 연구대상 중 하나이다. 한편, 딥러닝 기반의 음향 신호의 압축/복원 분야에서는 기존의 VQ-VAE 구조에 비해 잔여 벡터 양자화 기술이 더 적합한 것으로 보고되고 있으며, 따라서 본 논문에서는 폴리 음향 생성 분야에서도 잔여 벡터 양자화 기술이 효과적으로 적용될 수 있을지 연구하고자 한다. 이를 위하여 본 논문에서는 기존의 VQ-VAE 기반의 폴리 음향 생성 모델에 잔여 벡터 양자화 기술을 적용하되, Pixelsnail 등 기존의 다른 모델과 호환이 가능하고 연산 자원의 소모를 늘리지 않는 모델을 고안하여 그 효과를 확인하고자 하였다. 효과를 검증하기 위하여 DCASE2023 Task7의 데이터를 활용하여 실험을 진행하였으며, 그 결과 평균적으로 0.3 가량의 Fréchet audio distance 의 향상을 보이는 것을 확인하였다. 다만 그 성능 향상의 정도가 제한적이었으며, 이는 연산 자원의 소모를 유지하기 위하여 시간-주파수축의 분해능이 저하된 영향으로 판단된다.