고속DCT변환 방식의 정수형 연산에 관한 연구

On the Finite-world-length Effects in fast DCT Algorithms

오늘날 데이터 감축을 위한 디지털 영상처리에 KLT와 매우 유사한 성능을 갖는 DCT에 관한 관심도가 점점 늘고 있다. 지금까지 계산량을 줄이기 위해 발표된 많은 알고리즘 중에서 Chen의 알고리즘이 가장 많이 알려져 있다. 최근데 발표된 Lee 알고리즘은 Chen의 알고리즘에 비해 복잡한 계산량을 줄였지만 고정 소수점 연산시 FWL에 의한 성능감소가 발생한다. 본 논문에서는 FWL 영향에 따른 오차 분석을 행하여 두 알고리즘들의 성능비교를 하였다. 또한 고정 소수점 연산에 따른 성능감소를 줄이기 위해 up&down-scaling기법을 제안하였다. 16비트 고정 소수점 연산으로 16x16 2차원 DCT를 구현하여 영상 데이타에 적용할 경우 이론적인 고찰과 시뮬레이션 결과 Lee 알고리즘이 Chen 알고리즘과 유사한 성능을 갖는다는 것을 입증하였다.

In recent years has been an increasing interest with respect to using the discrete cosine transform(DCT) of which performance is found close to that of the Karhumen-Loeve transform, known to be optimal in the area of digital image processing for tha purpose of the image data compression. Among most of reported algorithms aimed at lowering the coputation complexity. Chen's algorithm is is found to be most popular, Recently, Lee proposed a now algorithm of which the computational complexity is lower than that of Chen's. but its performance is significantly degraded by FWL(Finite-Word-Lenght) effects as a result of employinga a fixed-poing arithmetic. In this paper performance evaluation of these two algorithms and error analysis of FWL effect are described. Also a scaling technique which we call Up & Down-scaling is proposed to allevaiate a performance degradation due to fixed-point arithmetic. When the 16x16point 2DCT is applied on image data and a 16-bit fixed-point arithmetic is employed, both the analysis and simulation show that is colse to that of Chen's.