이중 스텝 크기를 가지는 MSAG-SCS-MMA-I 적응 블라인드 등화 알고리즘의 성능 평가

Performance Evaluation of MSAG-SCS-MMA-I Adaptive Blind Equalization Algorithm with dual step-size

Abstract

본 논문은 256-QAM 시스템에서 기존 SCS-MMA-I 알고리즘의 수렴 속도를 현저히 개선하면서도 정상상태에서 매우 작은 잔류 ISI 및 MSE를 가지는 이중 스텝 크기를 가지는 MSAG-SCS-MMA-I 적응 블라인드 등화 알고리즘을 제안하고, 이 알고리즘에 대한 등화 성능을 평가한다. SCS-MMA-I 와 결정지향 알고리즘으로 부터 얻어지는 '1' 또는 '0'의 이진 Flag에 의해 제어되는 MSAG-SCS-MMA-I의 탭 갱신 식에 고정된 스텝 크기 대신에 결정지향 오차의 크기에 따라 서로 다른 스텝 크기를 적용함으로써 우수한 등화 성능을 가지도록 하였다. 컴퓨터 모의실험 수행 결과 잔류 ISI과 MSE, 그리고 MD등의 성능 지표면에서 제안한 알고리즘이 MMA나 SCS-MMA-I, 그리고 MSAG-SCS-MMA-I 알고리즘보다 훨씬 뛰어난 성능을 가짐을 확인하였다.

In this paper, we propose MSAG-SCS-MMA-I adaptive blind equalization with double step size with very small residual ISI and MSE at steady-state while significantly improving the convergence speed of the traditional SCS-MMA-I algorithm in 256-QAM system. And we evaluate the equalization performance for this algorithm. Different step sizes according to the absolute value of decision-directed error instead of a fixed step-size are applied to the tap update equation of MSAG-SCS-MMA-I, which is controlled by binary flags of '1' or '0' obtained from SCS-MMA-I and decision-directed algorithms. This makes for excellent equalization performance. As a result of computer simulation, we confirmed that the proposed algorithm has more better performance than the MMA, SCS-MMA-I, and MSAG-SCS-MMA-I algorithms in terms of the performance index such as residual ISI, MSE, and MD.

Ⅰ. 서론

통신 신호의 대역 제한 채널 또는 다중 경로 전파로 인해 발생되는 ISI(inter symbol interference)는 디지털 통신 시스템에서 고속으로 데이터를 송신하는 데 있어서 비트 오율과 심볼 오율, 그리고 동기 이탈등의 성능을 저하시키는 제한 요소이다. 등화는 수신기에서 이러한 ISI의 영향을 제거하는 필수 기술이다. 시간에 따라 변하는 통신 시스템에서 적응 알고리즘은 변화하는 채널 응답을 추적하기 위해 등화기의 계수를 조절하는 효과적인 방법이며, 특히 최근에 고유한 트레이닝 시퀀스를 발생시키지 않는 적응 블라인드 등화 기술에 대한 많은 연구가 진행되어 왔다. 적응 블라인드 등화 기법은 비선형 추정 기(nonlinear estimator)를 이용하며, 탭 갱신식으로 대부분 LMS(least mean square) 방식을 적용하고 있다. 이때 탭 갱신식에 어떤 오차 신호를 사용하느냐에 따라 그 성능이 다르게 나타난다. 대표적인 적응 블라인드 등화 알고리즘으로 RCA(reduced constellation algorithm)^[1], CMA (constant modulus algorithm)^[2], Stop-and-Go 알고리즘^[3], 그리고 MMA(multi-modulus algorithm)^[4]등이 있다.

SCS-MMA-I(soft-constraint satisfaction multi- modulus algorithm-I)^[5]는 RCA를 변형한 알고리즘으로써 RCA 비용 함수에서의 불연속성을 문제를 해결하기 위해 제안되었다. 그러나 이 알고리즘 역시 RCA나 CMA 그리고 MMA와 같이 QAM 신호의 차수가 높아질수록 정상상태에서의 misadjustment로 인한 정상 상태에서 큰 잔류 오차 문제를 가지고 있으며, 이것을 해결하기 위해 탭 갱신식의 스텝 크기를 매우 작게 하면 정상 상태로 수렴하는데 매우 오랜 시간이 걸리게 된다. 본 논문에서는 이러한 양립된 문제를 해결하기 위해 탭 갱신식에 고정된 스텝 크기 대신에 결정지향 오차 크기를 결정 기준으로 정하여 서로 다른 스텝크기를 할당하고, 또한 정상 상태로의 수렴속도 면에서 보다 빠르면서도 강건하고 안정되게 수렴할 수 있도록 SCS-MMA-I와 결정 지향(decision-directed) 알고리즘의 오차 신호간의 부호(+, -) 일치 여부를 비교하여 얻어진 이진 Flag(1 또는 0) 를 SCS-MMA-I에 적용한 이중 스텝 크기를 가지는 MSAG-SCS-MMA-I(modified stop-and-go SCS-MMA-I) 알고리즘을 제안한다. 컴퓨터 모의실험을 통하여 제안한 알고리즘이 매우 빠른 수렴속도를 가지면서 동시에 정상 상태에서 잔류 ISI, MSE, 그리고 MD 평가 지표로 분석하였을 때 대폭 향상된 등화 성능을 가짐을 확인하였다.

본 논문의 구성은 2장에서 SCS-MMA-I와 MSAG Flag를 가지는 SCS-MMA-I 적응 블라인드 등화 알고리즘, 그리고 제안한 이중 스텝크기를 가지는 MSAG-SCS-MMA-I 알고리즘을 설명한다. 3장에서는 컴퓨터 모의실험 결과를 통하여 이들 알고리즘에 대한 성능을 비교, 분석한다. 마지막으로 4장에서 결론을 맺는다.

Ⅱ. 본론

1. SCS-MMA-I

S. Sbrar등에 의해 제안된 SCS-MMA-I는 식(1)과 같은 비용함수를 가진다.

\(J=E\left\{\frac{\left|y_{R}(k)\right|^{3}}{3 \widetilde{R}_{R}}-\frac{y_{R}^{2}(k)}{2}+c_{R}+\frac{\left|y_{I}(k)\right|^{3}}{3 \widetilde{R}_{I}}-\frac{y_{I}^{2}(k)}{2}+c_{I}\right\}\)       (1)

여기서 \(c_{R}=\widetilde{R}_{R}^{2} / 6\) 이고 \(c_{I}=\widetilde{R}_{I}^{2} / 6\) 이다. 또한 \(y_{R}(k)\)과 \(y_{I}(k)\)은 각각 적응 블라인드 등화기 출력의 실수, 허수 성분이다.

SCS(soft-constrained satisfaction)로 알려진 최적화 방법^[6]을 사용하여 식 (2)와 (3)과 같은 오차 신호와 탭 갱신식이 정의되며, 이것을 SCS-MMA-I 적응 블라인드 등화 알고리즘^[5]이라고 한다.

\(\begin{array}{l} e_{S C S-M M A-I, R}(k)=y_{R}(k)\left(1-\frac{\left|y_{R}(k)\right|}{\widetilde{R}_{R}}\right) \\ e_{S C S-M M A-I, I}(k)=y_{I}(k)\left(1-\frac{\left|y_{I}(k)\right|}{\widetilde{R}_{I}}\right) \end{array}\)       (2)

\(\boldsymbol{W}(k+1)=\boldsymbol{W}(k)+\mu e_{S C S-M M A-I}(k) \mathbf{x}^{*}(k)\)       (3)

여기서 \(\widetilde{R}_{R}=E\left[\left|a_{R}(k)\right|^{3}\right] / E\left[a_{R}^{2}(k)\right]\), \(\tilde{R}_{I}=E\left[\left|a_{I}(k)\right|^{3}\right] / E\left[a_{I}^{2}(k)\right]\)이며, \(y_{R}(k)\)과 \(y_{I}(k)\) 의 절대 값으로 인한 scaling 효과를 제거하는데 사용된다. \(a_{R}(k)\)과 \(a_{I}(k)\)는 각각 입력 QAM 심볼 \(a(k)\)의 실수, 허수 성분이다. 또한 \(\boldsymbol{W} k)=\left[w_{0}(k) \cdots w_{N-1}(k)\right]^{T}\) 는 등화기 계수 벡터, \(\mathbf{x}(k)=[x(k) \cdots x(k-N+1)]^{T}\) 는 입력 신호 벡터, N은 적응 등화기 계수의 수, 그리고 \(\mu\)는 스텝 크기이다.

\(\widetilde{R}_{R}\) 과 \(\tilde{R}_{I}\)값은 식 (4)를 통하여 구할 수 있다.

\(\widetilde{R}_{R}=\widetilde{R}_{I}=\frac{3 \sqrt{M}}{4}\left(\frac{M-2}{M-1}\right)\)       (4)

여기서 M은 신호점도 상에서의 심볼점수를 나타낸다. 256-QAM 시스템에서 M=256 이다.

2. MSAG Flag를 가지는 SCS-MMA-I

MSAG(Modified Stop-and-Go) Flag를 가지는 SCS-MMA-I(이후 MSAG-SCS-MMA-I 이라 부른다.)는 탭 갱신에 있어서 보다 신뢰성 있는 추정 오차를 사용함으로써 빠른 수렴 속도와 등화 후 정상상태에서의 잔류 오차를 작게 하기 위해 Stop-and-Go 알고리즘[3]을 변형하여 적용한다. 본 논문에서는 식(5)에서와 같이 SCS-MMA-I 의 오차신호와 결정지향(decision- directed) 오차신호 ^[7]로 부터 얻어지는 이진 플래그 \(f_{M S A G, R}\)과 \(f_{M S A G, I}\)를 SCS-MMA-I의 탭 갱신식에 적용한다.

실수부 Flag \(f_{M S A G, R}\)과 허수부 Flag \(f_{M S A G, I}\)는 다음 식 (5)와 같이 정의된다.

\(\begin{array}{l} f_{M S A G, R}=\left\{\begin{array}{ll} 1 & \text { if } \operatorname{sgn}\left(e_{S C S-M M A-I, R}(k)\right)=\operatorname{sgn}\left(e_{D D, R}(k)\right) \\ 0 & \text { if } \operatorname{sgn}\left(e_{S C S-M M A-I, R}(k)\right) \neq \operatorname{sgn}\left(e_{D D, R}(k)\right) \end{array}\right. \\ f_{M S A G, I}=\left\{\begin{array}{ll} 1 & \text { if } \operatorname{sgn}\left(e_{S C S-M M A-I, I}(k)\right)=\operatorname{sgn}\left(e_{D D, I}(k)\right) \\ 0 & \text { if } \operatorname{sgn}\left(e_{S C S-M M A-I, I}(k)\right) \neq \operatorname{sgn}\left(e_{D D, I}(k)\right) \end{array}\right. \end{array}\)       (5)

여기서 \(e_{D D, R}(k)\)와 \(e_{D D, I}(k)\)는 결정지향 알고리즘의 오차 신호를 나타내며, sgn(∙)은 signum 함수를 나타낸다.

MSAGF-SCS-MMA-I의 등화 필터 탭 갱신식은 식(6)과 같다.

\(\begin{array}{r} W(k+1)=\boldsymbol{W}(k)+\mu\left[f_{M S A G, R} e_{S C S-M M A-I, R}(k)\right. \left.+j f_{M S A G, I} e_{S C S-M M A-I, I}(k)\right] \mathbf{x}^{*}(k) \end{array}\)       (6)

3. 이중 스텝크기를 가지는 MSAG-SCS-MMA-I

본 논문에서는 빠른 수렴 속도와 정상상태 (steady-state)에서 보다 작은 잔류 오차를 가질 수 있도록 결정지향 오차 신호의 크기에 따라 탭 갱신식에서의 스텝 크기를 다르게 하는 이중 스텝크기를 가지는 MSAG-SCS-MMA-I를 제안한다. 탭 갱신에 있어서 스텝 크기 값이 큰 경우 수렴 속도는 빠르나 정상 상태에서 의 잔류 오차가 크게 되며, 작은 경우에는 정상 상태에서의 잔류 오차는 작으나 수렴 속도는 매우 느리게 된다. 이러한 문제를 해결하기 위하여 제안한 알고리즘에서는 탭 갱신식에 단일 스텝크기 μ값을 사용하는 대신에 등화 출력 신호점과 추정된 원 신호점과의 크기 차이를 가지는 결정 지향 오차의 크기 값 \(\left|e_{D D}(k)\right|\)가 정해진 기준값 λ 범위 밖에 있느냐 아니면 안에 있느냐에 따라 스텝 크기 μ₁ 또는 μ₂ 값이 결정되는 이중 스텝 크기 μ(k)를 사용한다. 식 (7)과 같이 \(\left|e_{D D}(k)\right|\) 값이 기준값 λ보다 같거나 크면 μ(k)은 μ₁값으로, 작으면 μ₂값 으로 선택적으로 정해져서 등화기 필터 계수 갱신이 이루어지도록 한다.

\(\mu(k)=\left\{\begin{array}{} \mu_{1} & \text { if } & \left|e_{D D}(k)\right| & \geq \lambda \\ \mu_{2} & \text { if } & \left|e_{D D}(k)\right| & <\lambda \end{array}\right.\)       (7)

여기서 \(0<\lambda<1\)이고 \(\mu_{1}>\mu_{2}\)이다.

제안한 알고리즘의 탭 갱신식은 식 (8)과 같이 주어진다.

\(\begin{array}{r} \boldsymbol{W}(k+1)=\boldsymbol{W} k)+\mu(k)\left[f_{M S A G, R} e_{S C S-M M A-I, R}(k)\right. \left.+j f_{M S A G, I} e_{S C S-M M A-I, I}(k)\right] \mathbf{x}^{*}(k) \end{array}\)       (8)

제안한 알고리즘은 다음과 같이 동작한다. 등화 초기에는 원 신호점과 추정된 신호점 사이의 값차이가 큼에 따라 등화 탭 갱신식의 스텝 크기 μ(k)는 대부분 μ₁값 으로 정해지며 계수가 갱신된다. 정상상태에 들어가기 전까지는 등화가 진행되면서 \(\left|e_{D D}(k)\right|\) 값이 클 때는 큰 값의 계수 갱신이 이루어질 수 있도록 μ(k)=μ​​​​​​​₁ 으로 등화 계수 갱신을 하고, \(\left|e_{D D}(k)\right|\) 값이 작을 때는 μ​​​​​​​(k)​​​​​​​=μ​​​​​​​2 로 하여 큰 값의 등화기 계수 갱신이 이루어지지 않도록 한다. 이것은 보다 빠르면서도 강건하고 안정된 수렴 속도를 가질 수 있도록 한다. 이후 μ​​​​​​​(k)​​​​​​​=μ​​​​​​​2 로 결정되는 횟수가 많아지면서 잔류 오차의 크기가 크게 줄어들고, 정상상태에 들어서면 \(\left|e_{D D}(n)\right|\) 값이 기준값 λ보다 연속적으로 작게 될 수 있도록 μ​​​​​​​(k)​​​​​​​=μ​​​​​​​2 로 정해짐에 따라 계수 갱신이 이루어지더라도 큰 값의 변동이 없는 잔류 오차를 얻을 수 있게 된다. 그림 1에서 제안한 알고리즘의 블록도를 나타낸다.

그림 1. 제안한 알고리즘의 블록도

Fig. 1. Block diagram of the proposed algorithm

Ⅲ. 컴퓨터 모의실험 및 고찰

제안한 이중 스텝크기를 가지는 MSAG-SCS-MMA-I 적응 블라인드 등화 알고리즘에 대한 MMA, SCS-MMA -I 및 MSAG-SCS-MMA-I와의 성능을 비교하기 위하여 컴퓨터 모의실험을 수행하였다. 적응 블라인드 등화기의 성능을 나타내는 지수로써 잔류 ISI(residual ISI), averaged-MSE(minimum square error), 그리고 MD(maximum distortion)를 사용하였다. 또한 정성적 평가지표로써 등화기 출력 신호점도를 사용하였다. 잔류 ISI와 averaged-MSE 그리고 MD의 정의식은 다음과 같다.

\(\begin{array}{l} \text { residual ISI }=\frac{\sum_{n}|s(k)|^{2}-|s(k)|_{\max }^{2}}{|s(k)|_{\max }^{2}} \\ \text { averaged }-M S E=\frac{1}{N} \sum_{k=1}^{N} E\left[|y(k)-\hat{a}(k)|^{2}\right] \\ M D=\frac{\sum_{n}|s(k)|-|s(k)|_{\max }}{|s(k)|_{\max }} \end{array}\)       (9)

여기서 s(k)는 채널 h(k)와 등화 필터 W(k)간의 콘볼루션 결과 값을 나타낸다.

컴퓨터 모의실험은 그림 2와 같은 임펄스 응답 계수를 가지는 복소 통신 채널^[3]을 사용하여 256-QAM 신호를 대상으로 이루어졌으며, 신호 대 잡음비는 40dB로 하였다. 등화기는 15탭 복소 FIR 필터를 사용하였으며, 영역 결정 기준값 λ=0.5로 하였다. 모두 100회의 독립적인 Monte Carlo 실험을 통해 성능 지표 값들을 구하였다.

그림 2. 채널의 임펄스 응답 계수

Fig. 2. impulse response coefficients of channel

그림 3은 256-QAM 신호에 대한 MMA, SCS-MMA -I, MSAG-SCS-MMA-I, 그리고 제안한 이중 스텝크기 를 가지는 MSAG-SCS-MMA-I의 오차 신호를 나타낸다. 그림 3-(d)는 결정지향 오차 크기에 범위에 따라 각각 다른 스텝 크기를 가지므로 μ​​​​​​​₁에 대한 상대적 크기비 를 적용하여 오차 신호를 나타내었다. 이때 λ=0.5로 하였다.

그림 3. 256-QAM 신호에 대한 적응 블라인드 등화 알고리즘들 의 오차 신호

Fig. 3. Error signal of adaptive blind equalization algorithms for 256-QAM signal

그림 4는 앙상블 평균한 잔류 ISI를 dB로 나타낸 것이다. 스텝 크기는 실험을 통해 MMA에서 \(\mu=8.0 \times 10^{-9}\) , SCS-MMA-I 에서 \(\mu=2.5 \times 10^{-6}\) , MSAG-SCS-MMA-I 에서 \(\mu=4 \times 10^{-6}\), 그리고 제안한 이중 스텝 크기를 가지는 MSAG-SCS-MMA-I에서 \(\mu_{1}=1 \times 10^{-5}, \mu_{2}=1 \times 10^{-6}\) 로 하였다. MMA에서 constant modulus \(R_{M M A, R}^{2}\) 과 \(R_{M M A, I}^{2}\) 값은 각각 152.2로 하였으며, SCS-MMA-I, MSAG-SCS-MMA-I, 그리고 이중 스텝크기를 가지는 MSAG-SCS-MMA-I에서의 \(\widetilde{R}_{R}\) 과 \(\widetilde{R}_{I}\) 값은 식 (4)를 이용하여 각각 11.9529로 하였다.

그림 4에서 MMA는 15500번 정도의 반복횟수에서 정상상태에 들어가면서 평균 -27.23dB 정도의 잔류 ISI 값을 가지는 것을 볼 수 있다. SCS-MMA-I는 17350번 정도의 반복횟수에서 -25.71dB 정도의 잔류 ISI 값을 가지며 정상상태를 유지함을 보인다. MSAG-SCS-MMA-I 는 10340번 정도의 반복횟수에서 –40.34dB의 잔류 ISI 값을 가짐을 보인다. 이와 비교해서 이중 스텝크기를 가지는 MSAG-SCS-MMA-I는 6674번 정도의 반복횟수에서 –47.97dB의 잔류 ISI 값을 가짐을 보인다. 그림을 통하여 제안한 알고리즘은 정상상태에서 MMA 알고리즘보다 20.74dB 정도, SCS-MMA-I 보다 22.26dB, 그리고 MSAG-SCS-MMA-I 보다는 7.63dB 더 작은 잔류 ISI 값을 가짐을 알 수 있다. 수렴 속도면에서는 MMA보 다 8826번 정도, SCS-MMA-I보다는 10676번 정도, 그리고 MSAG-SCS-MMA-I보다는 3666번 정도 더 빠르게 정상상태에 들어감을 보인다.

그림 4. 앙상블 평균한 잔류 ISI 성능 비교

Fig. 4. Performance comparison of an ensembled residual ISI

그림 5는 각 알고리즘의 앙상블 평균한 averaged- MSE 성능을 비교하여 나타낸다. 이때 로 하였다. 그림에서 MMA는 정상상태에서 평균 –4.89dB 정도, SCS-MMA-I는 –3.75dB 정도, 그리고 MSAG-SCS– MMA-I는 –16.09dB 정도의 MSE 값을 가진다. 그리고 이중 스텝크기를 가지는 MSAG-SCS-MMA-I는 –20.12dB 정도의 매우 작은 MSE 값을 가진다. 결과적으로 제안한 알고리즘이 MMA에 비해 –15.23dB정도 더 작은 MSE 값을 가지며, SCS-MMA-I와 MSAG-SCS- MMA-I를 비교해서는 –16.37dB 그리고 –4.03dB 정도 더 작은 MSE 값을 가짐을 알 수 있다.

그림 5. 앙상블 평균한 averaged-MSE 성능 비교

Fig. 5. Performance comparison of an ensemble averaged-MSE

그림 6에서 블라인드 등화 알고리즘들의 앙상블 평균한 MD의 비교를 보인다. MD은 등화 후 출력신호점의 최대 찌그러짐 정도를 나타낸다. MD 값이 0에 가까울수록 등화 후 출력 신호점이 원 신호점과 일치하다는 것을 보이며, 이것은 눈(eye)이 활짝 열렸다는 것을 의미한다. 그림에서 MMA는 정상상태로 들어갔을 때 평균 0.1495 정도의 MD 값을, SCS-MMA-I와 MSAG-SCS- MMA-I 는 각각 0.1783과 0.0337 정도의 MD 값을 가진다. 한편 이중 스텝크기를 가지는 MSAG-SCS- MMA-I는 0.0143 정도의 매우 작은 MD 값을 가진다. 결과적으로 제안한 알고리즘이 MMA에 비해 0.1352정도 더 작은 MD 값을 가지며, SCS-MMA-I와 MSAG- SCS-MMA-I 를 비교해서는 0.163 그리고 0.0194 정도 더 작은 MD 값을 가짐을 알 수 있다.

그림 6. 앙상블 평균한 MD 성능 비교

Fig. 6. Performance comparison of an ensembled MD

그림 7에서는 등화 전 입력 신호의 신호점도와 각 등화 알고리즘들에 대한 등화 후 출력 신호의 신호점도를 보인다. MSAG-SCS-MMA-I 알고리즘의 등화 후 신호점들의 모습을 보면 다른 알고리즘과 비교하여 각 심볼 값을 중심으로 매우 작게 뭉쳐 모여 있음을 볼 수 있다.

그림 7. 등화기 입력과 출력 신호의 신호점도

Fig. 7. Input and output signal constellation of equalizer

Ⅳ. 결론

본 논문에서는 등화기 탭 갱신에 변형된 Stop-and-Go Flag와 결정 지향 오차 크기를 이용하여 스텝 크기를 결정하는 이중 스텝크기를 적용한 MSAG-SCS-MMA-I 적응 블라인드 등화 알고리즘의 성능을 평가하였다. 성능 평가 결과 256 QAM 시스템에서 제안한 알고리즘이 수렴 속도 면에서 MMA, SCS-MMA-I, 그리고 MSAG-SCS-MMA-I보다 각각 8826, 10676, 그리고 3666 반복횟수 만큼 더 빨리 정상상태로 들어왔으며, 잔류 ISI에서는 –47.97dB의 매우 낮은 값을 나타내면서 각각 –20.74dB, -22.26dB, 그리고 –7.63dB 정도 더 작은 값을 가지는 성능을 보여줬다. averaged-MSE 관점에서 살펴보면 제안한 알고리즘이-20.12dB를 나타내며 MMA, SCS-MMA-I, 그리고 MSAG-SCS-MMA-I와 비교하여 각각 –15.23dB, –16.36dB, 그리고 –4.03dB 정도 더 작은 값을 역시 보였다. MD 성능 비교에서는 0.0143으로 각각 0.1352, 0.163, 그리고 0.0194 정도 더 작은 값을 가짐을 보였다. 결과적으로 수렴속도와 잔류 ISI, averaged-MSE, MD 그리고 등화 후 신호점도등 을 종합하여 볼 때 제안한 알고리즘이 매우 우수한 등화 성능을 가짐을 확인하였다.