Fast intra mode decision algorithm by using hadamard transform difference

하다마드 트랜스폼 차이를 이용한 빠른 화면 내 모드 결정 기법

H.264/AVC에서는 율-왜곡 최적화 기법을 사용하여 부호화 성능을 이전 보다 대폭 향상시켰다. 율-왜곡 최적화 기법은 선택할 수 있는 모든 코딩 모드들의 비용을 계산한 후, 최소의 비용을 가진 모드를 선택하여 부호화를 한다. 따라서 코딩 모드들이 많아질수록 복잡도 역시 증가하며, 기존 표준보다 다양한 코딩모드를 지원하는 H.264에서는 복잡도가 더 많이 증가한다. 본 논문에서는 SAHTD(Sum of Absolute Hadamard Transform Difference)를 이용하여 화면 내 모드 결정부에서 빠른 화면내 모드 결정을 하면서도 압축 손실이 적게 발생하는 방법을 제시하였다. 휘도 신호 $16{\times}16$블록, 휘도 신호 $4{\times}4$블록, 색차 신호 $8{\times}8$블록 모두 SAHTD를 기준으로 최적의 모드가 결정된다. 휘도 신호 $16{\times}16$블록에서 SAHTD값에 따라 $4{\times}4$블록 부호화 과정을 조기 종결이 가능하게 하는 것과, 휘도 신호 $4{\times}4$에서는 SAHTD 값이 가장 낮은 3개의 모드와 MPM(Most Probable Mode)을 후보 모드로 선택하여 율-왜곡 최적화를 수행하는 방식이 사용되었다. MPM이 SAHTD값이 가장 낮을 경우 MPM이 휘도신호 $4{\times}4$블록의 최적의 모드로 선택되고 종료된다. JM 참조 소프트웨어를 통한 실험결과 제안된 기법은 기존 JM의 방식에 비해 화면 내 프레임의 부호화 시간의 84.7% 감소와 0.049dB의 PSNR 감소율, 0.595%의 비트 증가율을 보여주었다.