Performance Evaluation of Hybrid-SE-MMA Adaptive Equalizer using Adaptive Modulus and Adaptive Step Size

적응 모듈러스와 적응 스텝 크기를 이용한 Hybrid-SE-MMA 적응 등화기의 성능 평가

Abstract

This paper relates with the Hybrid-SE-MMA (Signed-Error MMA) that is possible to improving the equalization performance by using the adaptive modulus and adaptive step size in SE-MMA adaptive equalizer for the minimizing the intersymbol interference. The equalizer tap coefficient is updatted use the error signal in MMA algorithm for adaptive equalizer. But the sign of error signal is used for the simplification of arithmetic operation in SE-MMA algorithm in order to updating the coefficient. By this simplification, we get the fast convergence speed and the reduce the algorithm processing speed, but not in the equalization performance. In this paper, it is possible to improve the equalization performance by computer simulation applying the adaptive modulus to the SE-MMA which is proposional to the power of equalizer output signal. In order to compare the improved equalization performance compared to the present SE-MMA, the recovered signal constellation that is the output of the equalizer, residual isi, MD(maximum distortion), MSE and the SER perfomance that means the robustness to the external noise were used. As a result of computer simulation, the Hybrid-SE-MMA improve equalization performance in the residual isi and MD, MSE, SER than the SE-MMA.

본 논문은 부호간 간섭을 최소화시킬 수 있는 SE-MMA 적응 등화기에서 adaptive modulus와 adaptive step size를 이용한 등화 성능을 개선할 수 있는 Hybrid-SE-MMA에 관한 것이다. 적응 등화를 위한 MMA 알고리즘에서는 오차 신호를 이용하여 등화기 탭 계수를 갱신하고, SE-MMA는 오차 신호의 부호만을 이용하므로 연산량을 단순화시킨 구조이다. 연산량을 단순화시킴으로서 수렴 속도와 알고리즘 처리 속도에서는 향상 효과를 얻을 수 있지만 등화 성능이 저하되는 한계를 단점이 있다. 논문에서는 등화기 출력 신호의 전력에 비례하는 적응 modulus와 적응 step size를 SE-MMA에 적용하므로서 등화 성능을 더욱 개선할 수 있음을 컴퓨터 시뮬레이션을 통해 확인한다. 개선된 등화 성능을 기존 SE-MMA와 비교하기 위하여 수신측에서의 등화기 출력 신호인 복원된 신호 성상도, 잔류 isi, MD (Maximum Distortion), MSE 및 외부 잡음에 대한 알고리즘의 강인성을 알 수 있는 SER 성능을 사용하였다. 컴퓨터 시뮬레이션 결과 Hybrid-SE-MMA 알고리즘은 잔류 isi와 MD, MSE 및 SER등의 모든 성능 지수에서 SE-MMA 보다 개선됨을 알 수 있었다.

Ⅰ. 서론

디지털 정보를 전송하기 위하여 정현파의 진폭과 위상을 동시에 변화시키는 QAM과 같은 대역폭 효율적인 신호 방식이 통신 시스템에서 널리 사용되고 있다. 그러나 통신 채널에서는 신호의 진폭과 위상이 동시에 찌그러져서 이전 부호가 다음 부호에 영향을 미치는 부호간 간섭이 일어난다^[1]. 수신측에서 원래의 송신된 신호를 복원할 때 부호간 간섭의 효과를 줄이기 위하여 CE(Channel Equalization)가 사용된다. CE는 송신국과 수신국이 사전에 알고 있는 학습열의 도움을 이용하는 적응 등화기가 부호간 간섭의 효과를 최소화하기 위한 과정이다. 적응 등화기에서 학습열은 매우 유용한 참조 신호가 되지만, 이의 사용하므로서 전송 잉여율이 GSM에서는 대략 25% 정도가 되므로, 최근 시스템 설계자들에게 BCE(Blind Channel Equalization)가 FEC보다 많은 관심을 끌고 있다^[2][3]. blind equalization의 주된 장점은 학습열의 전송에 의한 대역폭 낭비가 없다는 점이다. 수신측의 복조기에서 총 연산량의 80% 이상이 블라인드 적응 등화 알고리즘에서 소요되므로, 이의 부담을 줄일 수 있는 방식이 필요하다. 이를 위해 CMA(Constant Modulus Algorithm), MMA (Multiple Modulus Algorithm)등이 있으며, 이들의 연산량을 줄이기 위한 방식들이 제안되고 있는데 SE-MMA (Signed-Error MMA)를 들 수 있다^[4][5]. 연산량을 줄이므로서 SE-MMA는 기존 MMA보다 수렴 속도와 알고리즘 처리 속도는 향상되지만 등화 성능이 열화되는 문제점이 있다[7]. 기존 의 MMA, SE-MMA에서는 송신 신호의 고차 통계치를 이용한 고정 dispersion constant를 적용하지만, 본 논문에서는 등화기 출력의 실수부와 허수부에 가장 유사한 maximum likelihood에 의한 adaptive modulus와 오차 신호의 비선형성을 이용한 적응 스텝 크기를 SE-MMA에 적용하므로서 알고리즘의 연산량을 줄이면서도 등화 성능을 개선할 수 있는 Hybrid-SE-MMA를 제안하며, 이의 적응 등화 성능인 잔류 isi, MD, MSE 및 SER에서 기존 방식보다 우월함을 시뮬레이션을 통해 확인한다. 논문의 구성으로 2장에서는 적응 등화기를 사용하는 통신 시스템 모델과 SE-MMA 알고리즘과 adaptive modulus와 adaptive step size 개념을 설명한 후, 3장에서는 시뮬레이션 과정 및 적응 등화 성능을 제시한 후, 4장에서는 결론을 내리겠다.

Ⅱ. 본론

1. 적응 등화기를 사용하는 통신 시스템 모델

그 1은 수신기에서 적응 등화기를 사용한 일반적인 통신 시스템의 기저 대역 모델을 나타낸 것이며 스펙트럼 이동 과정은 생략하였다. 정보원 (source)로부터 발생된 “1”과 “0”의 데이터는 constellation mapping 과정을 통해 16-QAM 신호 s(k)를 발생한다. 이 신호는 부호간 간섭을 발생시키는 필터 모델인 임펄스 응답이 h(k)인 채널을 통하여 수신측에 전달되며 이때 채널에서는 일정한 신호대 잡음 전력비를 갖는 가우시안 잡음 n(k)이 부가된다. 수신측에 수신된 신호 r(k)는 임펄스 응답이 f(k)인 적응 등화기에 인가되어, 부호간 간섭 이 최소화된 등화 출력 신호를 얻게 된다. 이때 등화기 탭 계수 f(k)의 전달 함수는 통신 채널의 역전달 특성을 갖도록 설정된다. 적응 등화기의 출력 신호는 결정 장치를 통해 송신 신호의 추정치 \(\mathrm{s} \widehat{(\mathrm{k})}\)를 얻게 된다. 주파수 영역에서는 채널의 임펄스 응답 h(k)의 퓨리어 변환 치를 H(ω), 등화기의 필터 계수 f(k)의 퓨리어 변환치를 F(ω)라면 다음의 관계가 성립된다.

\(\mathrm{H}(\omega) \cdot \mathrm{F}(\omega)=1\)       (1)

그림 1. 기저 대역 통신 시스템 모델

Fig. 1. Baseband communication system model

즉 채널과 등화기의 종합 주파수 특성은 1이 되어 모든 주파수 성분을 그대로 통과시키게 되어 수신측에서는 송신 신호의 스펙트럼을 추정할 수 있게 된다. 또한 필터 계수 f(k)는 매 순간 갱신되며, 학습열에 의존하지 않으므로 블라인드 방식이 되며 지연 시간은 무시한다.

2. SE-MMA 알고리즘

그림 1에서 송신 신호 s(k)는 채널 h(k)를 통과하면서 부호간 간섭이 발생된 후 원하는 SNR의 잡음 신호 n(k)가 부가된 후 수신 신호 r(k)를 얻는다.

\(r(k)=s(k) * h(k)+n(k)\)       (2)

수신 신호는 유한 차수의 계수를 갖는 등화 필터 f(k)를 통과하면서 부호간 간섭이 최소화된 후 결정 장치(decision device)를 통과시켜 복원 신호 \(\mathrm{s} \widehat{(\mathrm{k})}\)/span>를 얻게 된다. 이때 등화 필터의 계수 f(k)는 식(1)의 관계가 되도록 적응적으로 변화시키며, 이를 위해 SE-MMA 적응 알고리즘이 적용된다. 적응 등화를 위한 필터 계수 갱신은 등화기의 출력 신호 z(k)와 송신 신호의 despersion constant \(\mathrm{R}_{\mathrm{MMA}}^{2}\)의 차이에 의한 오차 신호를 이용한다. 등화 필터의 출력 신호 z_k는 영-오차 윤곽선상에서 일정한 dispersion constant의 정사각형이 되도록 조정되며 이 constant와 실제 출력 신호 z(k)와의 오차 신호 e(k)를 이용한다. SE-MMA 적응 등화 알고리즘에서는 다음과 같이 정의되는 비용 함수 J를 최소화시키도록 SGA (Stochastic Gradient Algorithm)을 적용하여 반복시킨다.

\(\begin{array}{r} \mathrm{J}=\mathrm{E}\left[\left(\left|z_{(\mathrm{k}) r}\right|^{2}-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)^{2}+\left(\left|z_{(\mathrm{k}) \mathrm{i}}\right|-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)^{2}\right] \\ \mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{r}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{r}}^{2}\right|\right)}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{i}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{(\mathrm{k}) \mathrm{i}}^{2}\right|\right)} \end{array}\)       (3)

여기서 z_(k)r, z_(k)i는 z(k)의 실수와 허수, s(k)r, s(k)i은 s(k)의 실수와 허수를 각각 나타낸다. 식(3)의 비용 함수는 1차원 CMA 비용 함수를 2개 더한 형태로 표시되는 MMA와 동일함을 알 수 있으며 SE-MMA의 오차 함수와 등화 필터 계수의 갱신식은 다음과 같이 된다.

\(\begin{aligned} \overline{\mathrm{e}_{(\mathrm{k}) \mathrm{SE}-\mathrm{MMA}}}=& \operatorname{sgn}\left[z_{(\mathrm{k}) \mathrm{r}}\left(\left|z_{(\mathrm{k}) \mathrm{r}}\right|^{2}-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)\right]+\\ & j \operatorname{sgn}\left[z_{(\mathrm{k}) \mathrm{i}}\left(\left|z_{(\mathrm{k}) \mathrm{i}}\right|^{2}-\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2}\right)\right] \\ \mathrm{f}(\mathrm{k}+1)=& \mathrm{f}(\mathrm{k})-\mu \overline{\mathrm{e}_{(\mathrm{k}) \mathrm{SE}-\mathrm{MMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (4)

여기서 sgn은 signium 함수를 나타내며, SE-MMA 알고리즘에서는 등화 필터의 출력 z(k)는 복소평면에서 4개의 점 ± R_SE-MMA ± j R_SE-MMA주위로 존재하도록 탭 계수를 갱신하게 된다. SE-MMA는 적응 상수가 고정될 때 탭 갱신을 위한 오차 함수를 곱하는 과정을 단순히 부호만을 고려하게 되어 알고리즘의 연산량을 줄일 수 있게 되어 수렴 속도를 개선시킬 수 있지만 잔류 isi, MD 등의 등화 성능이 저하되는 단점이 있다.

3. Adaptive Modulus와 Adaptive Step Size

SE-MMA에서 고정된 dispersion constant modulus \(\mathrm{R}_{S \mathrm{E}-\mathrm{MMA}}^{2}\)를 적용하므로서 등화기 출력이 modulus를 중심으로 \(\pm \sqrt{\mathrm{R}_{(\mathrm{R}) \mathrm{SE}-\mathrm{MMA}}}\)와 \(\pm \sqrt{\mathrm{R}_{(\mathrm{I}) \mathrm{SE}-\mathrm{MMA}}}\)의 점에 위치하도록 탭 계수를 갱신하게 되지만, adaptive modulus는 등화기 출력의 실수와 허수부는 그림 2와 같이 해당 실수부와허수부에 가장 유사한 신호점 기반의 maximum likelihood 원칙을 적용하고 있다. 그림에서 zone 1과 zone 2에 속하는 z_R-1 z_R-2은 신호점의 실수축에 대한 점이며, z_I-1 z_I-2는 신호점의 허수축에 대한 점이다. 그림에서 “O"와 같은 등화기 출력을 얻었다면, 실수축에 대해서는 zone 1에 속하며, 허수축에 대해서도 zone 2에 속하게 되어 modulus를 적응적으로 변화시키게 된다.

그림 2. 16-QAM에서 Likelihood zone

Fig. 2. Likelihood zone of 16-QAM

16-QAM 신호에서 이와 같은 개념을 적용한 adaptive modulus는 다음과 같다.

\(\begin{array}{l} \text { If } z_{(\mathrm{k}) r} \in Z_{\mathrm{R}-1} \text { then } \sqrt{\mathrm{R}_{\mathrm{r} \mathrm{AM}-\mathrm{SE}-\mathrm{MMA}}}=\pm 0.3153 \\ \text { If } z_{(\mathrm{k}) \mathrm{r}} \in Z_{\mathrm{R}-2} \text { then } \sqrt{\mathrm{R}_{\mathrm{r} \mathrm{AM}-\mathrm{SE}-\mathrm{MMA}}}=\pm 0.946 \\ \text { If } z_{(\mathrm{k}) \mathrm{i}} \in Z_{\mathrm{I}-1} \text { then } \sqrt{\mathrm{R}_{\mathrm{i} \mathrm{AM}-\mathrm{S}-\mathrm{MMA}}}=\pm 0.3153 \\ \text { If } z_{(\mathrm{k})_{\mathrm{i}}} \in Z_{\mathrm{I}-2} \text { then } \sqrt{\mathrm{R}_{\mathrm{i}} \mathrm{AM}-\mathrm{S}-\mathrm{MMA}}=\pm 0.946 \end{array}\)       (5)

SE-MMA에서는 \(\sqrt{\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}} \approx 2.86\)를 고정적으로 사용하지만 제안하는 AM-SE-MMA에서는 등화기 출력 신호의 값에 따라 modulus를 식 (5)와 같이 변화시킨다.

adative step size는 적응 등화 알고리즘이 수렴한 후에도 만약 강한 채널의 간섭이 존재하다면 인위적으로 오차 신호는 커질 수 있으므로 이를 막기 위하여 오차 신호를 적절한 변환 과정을 거쳐 비선형 함수를 이용한 step size 제어에 사용하는 것을 목적으로 하며, SE-MMA의 SER 성능 열화를 방지할 수 있게 된다. 제안 방식인 Hybid-SE-MMA 알고리즘에서 고정 step size μ는 다음과 같이 비선형 함수인 지수 함수를 이용하여 변환되어진다.

\(\mu_{\mathrm{k}}=\beta\left[1-\exp \left(-\alpha\left|\overline{e_{k}}\right|\right)\right]\)       (6)

\(\overline{e_{k}}=z_{(k) r}\left(\left|z_{(k) r}\right|^{2}-R_{S E-M M A}^{2}\right)+j z_{(k) i}\left(\left|z_{(k) i}\right|^{2}-R_{S E-M M A}^{2}\right)\) 여기서 β는 proportionality factor이며 가변 step size μ_k값을 제어하며, α는 step size의 변화 속도를 제어하는데 사용된다. \(0 \leqq 1-\exp \left(-\alpha \mid \overline{e_{k}}\right) \leqq 1\)의 범위 내에 μ_k값은 0 ≦ μ_k ≦ β의 값을 갖게 되며, 알고리즘의 안정된 동작을 보장하기 위하여 step size는 다음의 조건을 만족시키야 한다.

\(0 \leqq \mu_{\mathrm{k}} \leqq 0.66 \mathrm{tr}\left(\mathrm{R}_{\mathrm{k}}\right)\)       (7)

R_k는 등화기의 입력 신호 r_k의 자동 상관 행렬을 나타낸다.

Ⅲ. 컴퓨터 시뮬레이션 및 결과

컴퓨터 시뮬레이션을 통하여 adaptive modulus와 step size를 적용한 Hybrid-SE-MMA 알고리즘의 성능을 기존 SE-MMA와 비교, 평가하였다. 시뮬레이션을 위한 파라미터로는 신호대 잡음비를 30dB, 고정 적응 스텝의 크기로 μ = 0.0015, α = 4를 적용하였다. 그림 3은 시뮬레이션을 위한 신호 처리 름도를 나타낸 것으로 송신측에서는 20,000개의 16-QAM 신호를 발생한 후, 그림 4의 통신 채널을 통과시키고 원하는 신호대 잡음비를 갖도록 백색 가우시안 잡음을 부가시켜 수신 신호를 얻었다. 수신 신호는 그림 2의 r(k)가 된 후 이를 제안 알고리즘으로 처리하여 적응 등화 알고리즘의 성능을 나타내는 복원 성상도, 잔류 isi 및 MD, MSE 및 SER을 얻는 데 사용하였으며, 그림 4는 부호간 간섭을 발생시키는 시간 영역에서 통신 채널의 실수부와 허수부 계수를 나타낸 것이다.

그림 3. 신호 처리도

Fig. 3. Flowdiagram of signal processing

그림 4. 채널 계수

Fig. 4. Channel coefficient

이상과 같은 시뮬레이션 환경하에서 등화 성능을 비교하였다. 이를 위하여 첫 번째 지수인 적응 등화기의 출력 신호 성상도를 그림 5에 나타내었다. 출력 신호의 성상도에서 이들 2가지 알고리즘의 16개 신호점을 명확히 알 수 있으며, 각 신호점간의 거리에서는 HybridSE-MMA가 SE-MMA보다 조금 멀어지므로 신호점의 군집 능력에서 우월함을 알 수 있다.

그림 5. 등화기 출력 신호 성상도

Fig. 5. Output Signal Constellation of equalizer

두번째 성능 비교를 위한 지수로는 적응 등화기가 초기의 과도 과정을 지나 정상 상태에 도달할 때까지의 수렴 속도와 그 양을 나타내는 잔류 isi, 최대 찌그러짐 성능이다. 이 중에서 수렴 속도는 적응 등화기가 정상적으로 동작중에 채널의 비정상적인 상태에 신속하게 정상 상태까지 도달할 수 있는 능력을 나타낸다. 그림 6의 반복 iteration에 대한 잔류 성능에서 초기에서 -20dB까지의 정상 상태에 도달하는 속도에서 이들 알고리즘이 동일하지만, 그 이후부터 잔류량 전력에서 Hybrid-SE-MMA가 SE-MMA보다 대략 -2.5dB 정도 적어짐을 알 수 있다. 그림 7의 maximum distortion 성능에서도 수렴 속도는 동일하지만, 정상 상태 이후부터는 잔류량의 전압에서 평균 -0.1 볼트 정도 적어짐을 알 수 있다. 마지막의 성능 비교 지수인 MSE 성능을 그림 8에 나타내었다. mse 성능에서도 앞의 잔류 isi와 최대 찌그러짐 성능과 동일한 결과를 얻을 수 있어서 Hybrid-SE-MMA가 SE-MMA보다 -2dB 정도 개선됨을 알 수 있다. 수렴 속도뿐만 아니라 모든 성능 평가 지수에서 Hybrid-SE-MA가 우월함을 알 수 있다.

그림 6. 잔류 isi 성능

Fig. 6. Residual isi performance

그림 7. 최대 찌그러짐 성능

Fig. 7. Maximum distortion performance

그림 8. MSE 성능

Fig. 8. MSE Performance

마지막 성능 지수인 외부 잡음에 대한 등화 알고리즘의 강인성을 나타내는 신호대 잡음비에 대한 SER 성능을 그림 9에 나타내었다. 신호대 잡음비는 0dB에서 5dB 단위로 30dB까지 변화시키면서 20,000개의 심볼은 5회 랜덤하게 발생시켜 오류율을 계산한 것이다. 그림에서 알 수 있듯이 Hybrid-SE-MMA 알고리즘이 SE-MMA 알고리즘보다 강인함을 확인하였으며, 신호대 잡음비가 커질수록 등화 이득도 동시에 증가함을 알 수 있다. 즉 등화기 내부의 성능 지수와 외부 성능 지수의 모든 지수에서 Hybrid-SE-MMA 알고리즘이 SE-MA 알고리즘보다 우월함을 알 수 있다.

그림 9. SER 성능

Fig. 9. SER performance

Ⅳ. 결론

본 논문은 기존 SE-MMA 적응 등화 알고리즘의 성능을 더욱 개선시키기 위하여 adaptive modulus 개념을 적용하는 AM-SE-MMA 알고리즘에 관한 것이다. 기존 MMA 알고리즘의 연산량을 줄일 수 있는 SE-MMA는 등화 성능이 열화되는 문제점이 있으므로, 이를 개선시킬 수 있도록 적응 modulus를 이용한 오차 신호의 발생시킨 후 이의 부호 및 오차 신호의 비선형성에 의한 적응 스텝 크기를 이용한 등화기 탭 계수를 갱신하므로서 성능이 개선됨을 확인하였다. 등화기의 내부 성능지수를 의미하는 잔류 isi에서는 -2.5dB 정도, MD에서는 -0.1볼트, MSE 에서도 -2dB 정도 개선됨을 알 수 있었다. 또한 정상 상태에 도달하기 위한 수렴시간도 동일함을 알 수 있으며, 외부 잡음에 대한 알고리즘의 강인성에서도 우월함을 알 수 있었. 등화 알고리즘의 고속화를 위하여는 연산량의 단순화가 필요하게 되지만, 이는 등화 성능에 직접 영향을 미치게 되므로, 연산량을 줄이면서도 수렴 속도와 강인성을 더욱 개선시킬 수 있는 새로운 알고리즘에 대한 연구가 지속적으로 필요하다.