• 한국통신학회논문지
• /
• 제35권1C호
• /
• pp.33-39
• /
• 2010

코렌트로피는 일반화된 상관함수로서 확률밀도함수의 고차 모멘트를 가지는데 이는 기존의 모멘트 확장 방식들보다 더 높은 고차 모멘트이다. 두 다른 랜덤 변수의 상호 코렌트로피를 최대화하는 이 기준 방식은 최소자승오차 기준 방식과 비교할 때, 비선형, 비 가우시안 신호 처리 환경에서 특히 탁월한 성능을 나타낸다. 이 논문에서는, 상호 코렌트로피 기준에 근거한 새로운 블라인드 등화 기법을 제안한다. 이 기법은 등화기 출력의 확률밀도함수와, 송신 심볼의 분포에 맞추어 발생시킨 랜덤심볼의 파전 확률밀도 추정치라는 두 확률변수에 상호 코렌트로피를 적용한다. 상호 코렌트로피에 근거한 제안 방식의 블라인드 등화 성능을 유클리디언 거리 최소화 방식과 비교하였다.

• 인터넷정보학회논문지
• /
• 제11권5호
• /
• pp.19-26
• /
• 2010

두 랜덤 변수의 상호 코렌트로피 최대화 기준은 최소자승오차 기준에 비해 탁월한 성능을 보인다. 이 논문에서 제안하는 블라인드 등화 방식은, 등화기 출력 PDF와 자기 생성 심볼 집합의 파전 PDF를 두 랜덤 변수로 하는 상호 코렌트로피에 기준을 두어 QAM과 복소 채널 환경을 위해 설계되었다. 복소 채널 통신 환경의 시뮬레이션 결과에서 상 위상 회전이 없이 크게 향상된 심볼 포인트 집중 성능을 나타냈다.

• 한국통신학회논문지
• /
• 제41권9호
• /
• pp.995-1000
• /
• 2016

무작위 발생된 심볼 집합과 최대 상호 코렌트로피 (maximum cross-correntropy) 로 설계된 MCC 알고리듬은 최소자승평균 (MSE) 기반 알고리듬과 달리, 충격성 잡음 하에서 최적 가중치가 동요 없이 안정을 유지하며 그 요인이 오차 전력에 따라 입력의 세기를 조절하는 입력 크기 조정기 (input magnitude controller, IMC)에 있음이 밝혀졌다. 이 논문에서는 스텝사이즈를 정규화한 알고리듬 (normalized MCC, NMCC)를 제안하였으며 여기서 IMC 통과된 신호 전력은 1-pole 저역 통과 필터로 반복적 추정한다. 두 가지 다중경로 채널 모델과 충격성 잡음 환경에서 시행된 시뮬레이션 결과, 정규화된 NMCC알고리듬은 MCC알고리듬에 비해 정상상태 MSE에서 1 dB 정도의 성능 향상을, 수렴 속도에서도 500 샘플 정도 빠른 성능을 나타냈다.

• 한국통신학회논문지
• /
• 제39A권3호
• /
• pp.149-154
• /
• 2014

상호-코렌트로피 개념은 가우시안 커널의 커널 밀도 추정법에 의해 구축된 두 가지 서로 다른 확률밀도함수의 내적으로 표현될 수 있다. N개의 랜덤 심볼열과 상호-코렌트로피의 최대화 (MCC) 에 바탕을 두고 개발된 블라인드 알고리듬은 탁월한 학습 성능을 보인다. 그러나 이 알고리듬은 MCC 기반으로 가중치를 갱신할 목적으로 설계되면서 과도한 계산 복잡도를 지니게 된다. 이 논문에서는 상호-코렌트로피의 기울기 계산을 반복적으로 수행하여 MCC 알고리듬의 계산상의 복잡도를 크게 줄이는 방법을 제안하였다. 기존의 MCC 알고리듬은 블록 처리 방식에 의해 기울기를 계산하여 $O(N^2)$의 계산량이 필요했던 반면 제안된 방법은 O(N)의 계산만을 수행한다. 시뮬레이션 결과로부터, 제안된 이 방법이 기존의 알고리듬과 비교하여 계산량의 부담을 크게 줄이면서도 동일한 학습 성능을 보였다.

• 한국산학기술학회논문지
• /
• 제22권3호
• /
• pp.627-632
• /
• 2021

적응 신호 처리 및 머신 러닝 등에 활용되고 있는 정보 이론적 학습법(ITL, information theoretic learning)은 커널 사이즈(��) 설정이 성능에 큰 영향을 미친다. ITL 기반의 학습법의 하나인 코렌트로피 알고리듬은 충격성 잡음에 강인성과 채널 왜곡 보상 특성을 함께 지니고 있으나 커널 사이즈 선택에 매우 민감하거나 불안정한 특성도 지니고 있다. 이에, 이 논문에서는 기울기 분모에 나타나는 커널 사이즈의 세제곱이 미치는 민감성을 고려하고, 커널 사이즈의 미세 변동에 대한 오차 전력 변화율을 이용하여 커널 사이즈를 적응적으로 갱신하는 방법을 제안하여 코렌트로피 알고리듬에 적용하였다. 제안된 적응 커널 사이즈 추정 방법을 다중 경로 채널과 충격성 잡음 환경에 대해 실험하였다. 제안한 방식은 고정 커널사이즈의 기존 알고리듬에 비해 2배 빠른 수렴 속도를 나타냈고 초기 커널 사이즈 2.0 에서 6.0 에 대해 모두 적절히 수렴하는 능력을 보였다. 이에 초기 커널 사이즈 선택에 큰 여유도를 가지고 성능을 향상시킬 수 있음을 입증하였다.

• 한국통신학회논문지
• /
• 제40권12호
• /
• pp.2324-2330
• /
• 2015

충격성 잡음하의 블라인드 신호처리 분야에서 최대 상호 코렌트로피 알고리듬 (MCC)이 MSE 기반의 알고리듬에 비해 우수한 성능을 보인다. 그러나 MCC 알고리듬에 대한 최적 가중치 조건들이나 충격성 잡음에 대한 내성과 관련된 특성들은 아직 충분히 연구되지 못한 상태이다. 이 논문에서는 MSE기반의 LMS 알고리듬과 비교를 통해 MCC의 최적 가중치의 성질을 분석하여 MCC 알고리듬의 최적 가중치가 MSE기반의 LMS 알고리듬과 같다는 보인다. 또한 MCC의 최적 가중치가 충격성 잡음 하에서도 동요 없이 안정을 유지하는 요인이 입력 크기 조정에 있다는 것을 시뮬레이션을 통해 입증하였다.

• 한국산학기술학회논문지
• /
• 제22권2호
• /
• pp.714-720
• /
• 2021

머신 러닝 및 신호처리에 활용되고 있는 정보이론적 학습법(ITL, information theoretic learning)은 커널 사이즈(σ) 설정이 매우 민감한 어려움을 지닌다. ITL의 성능지표중 하나인 코렌트로피 함수를 최대화하는 성능지표에 대해, 기울기에 존재하는 1/σ2를 제거한 뒤 남은 커널 사이즈에 대해 적응적으로 조절하는 방법들이 연구되었다. 이 논문에서는, 1/σ2의 커널 사이즈가 실제 시스템의 민감성이나 불안정에 큰 역할을 하고 있으며 남은 부분에 존재하는 커널 사이즈에 대한 최적해는 오차의 절대값 근방에 수렴함에 따라 오히려 수렴 후 가중치 갱신을 멈추게 하는 부작용이 나타남을 밝혔다. 이에 적응적 커널 사이즈 조절 대신 적절한 상수를 선택하는 것이 보다 효과적이라는 것을 제안하였고, 실험결과에서 동일한 수렴 속도에 약 2dB 향상된 정상상태 MSE를 보였다. 제안한 방식을 더욱 열악한 다경로 채널환경에 적용하여 실험한 결과 4dB 이상의 성능향상을 보여 제안한 방식은 열악한 상황일수록 더욱 향상된 성능을 보임을 알 수 있다.

• 한국정보통신학회논문지
• /
• 제15권2호
• /
• pp.299-306
• /
• 2011

다음은 이 논문에서는 임펄스 잡음과 함께 다중경로 특성을 가진 수중 통신 채널에 대해, 확률거리 최소화와 델타함수열을 이용한 블라인드 적응등화 알고리듬을 소개하고 임펄스 잡음에 대한 강인성을 입증하였다. 기존의 자승평균오차 기반의 CMA는 임펄스 잡음 환경에서 다중경로 채널을 보상하지 못하는 현상을 보였고 엔트로피에 기반을 둔 코렌트로피 등화알고리듬도 일반적 변조방식에서 성능이 만족스럽지 못한 것으로 나타났으나, 델타함수열을 이용한 확률분포 거리최소화 방법은 이러한 임펄스 잡음 문제와 다중경로 채널 블라인드 등화문제를 동시에 해결함을 보였고, 임펄스 잡음에 대해 탁월한 강인성을 가짐을 이론적 분석과 함께 시뮬레이션 실험을 통해 입증하였다.

• Nuclear Engineering and Technology
• /
• 제56권4호
• /
• pp.1284-1295
• /
• 2024

Due to increasing operational security demands, digital and intelligent condition monitoring of nuclear power plants is becoming more significant. However, establishing an accurate and effective anomaly detection model is still challenging. This is mainly because of data characteristics of nuclear power data, including the lack of clear class labels combined with frequent interference from outliers and anomalies. In this paper, we introduce a Transformer-based unsupervised model for anomaly detection of nuclear power data, a modified loss function based on the maximum correntropy criterion (MCC) is applied in the model training to improve the robustness. Experimental results on simulation datasets demonstrate that the proposed Trans-MCC model achieves equivalent or superior detection performance to the baseline models, and the use of the MCC loss function is proven can obviously alleviate the negative effect of outliers and anomalies in the training procedure, the F1 score is improved by up to 0.31 compared to Trans-MSE on a specific dataset. Further studies on genuine nuclear power data have verified the model's capability to detect anomalies at an earlier stage, which is significant to condition monitoring.

• 인터넷정보학회논문지
• /
• 제11권5호
• /
• pp.1-8
• /
• 2010

이 논문은 충격성 잡음 환경에 대해 상수 모듈러스 오차(CME)와 가우시안 커널에 근거한 블라인드 등화 알고리듬의 성능 분석을 보이고 있다. CME와 평균 자승 오차(MSE)에 근거한 상수 모듈러스 알고리듬(CMA)는 충격성 잡음 환경에서 수렴에 실패한다. 이런 충격성 잡음에 대한 내항성을 위해 최근에 소개된 코렌트로피 블라인드 등화 알고리듬도 PAM 변조 방식에서는 만족할 만한 결과를 보이지 못한다. 원래 가우시안 잡음 환경을 위해 제안되었던 최대 영-확률 블라인드 알고리듬(MZEP-CME)이 충격성 잡음 환경에서도 탁월한 성능을 보인다는 것이 이 논문의 이론적, 그리고 시뮬레이션을 통한 분석에 의해 입증된다. MZEP-CME 알고리듬의 가우시안 커널은 충격성 잡음에 의해 발생하는 출력 신호 전력과 CME 사이의 큰 차이에 민감하게 반응하지 못하게 하는 강한 영향력을 발휘한다.