• 제목/요약/키워드: the mean-squared error distortion

검색결과 17건 처리시간 0.024초

Non-data Aided Timing Phase Recovery Scheme for Digital Equalization of Chromatic Dispersion and Polarization Mode Dispersion

  • Park, Jang-Woo;Chung, Won-Zoo;Park, Jong-Sun;Kim, Sung-Chul
    • Journal of the Optical Society of Korea
    • /
    • 제13권3호
    • /
    • pp.367-372
    • /
    • 2009
  • In this paper we propose an electronic domain timing phase selection scheme for the optical communication systems suffering from inter-symbol-interference (ISI) distortion due to chromatic dispersion (CD) or polarization mode dispersion (PMD). In the presence of CD/PMD a proper timing phase selection is important for discrete time domain equalizers, since different timing phases produce different nonlinear ISI channels of different severity. The proposed timing phase recovery scheme based on dispersion minimization (DM) practically approximates the optimal minimum mean squared error (MMSE) timing phase without training signals which reduces overall throughput substantially, especially in time-varying channels such as PMD. The simulation results show that the proposed DM timing agrees with MMSE timing phase, under proper normalization of the received signals, for various dispersion and OSNR.

Signal Processing for Perpendicular Recording Systems

  • Lee, Jun;Woo, Choong-Chae
    • 전기전자학회논문지
    • /
    • 제15권1호
    • /
    • pp.70-75
    • /
    • 2011
  • Longitudinal recording has been the cornerstone of all two generations of magnetic recording systems, FDD and HDD. In recent, perpendicular recording has received much attention as promising technology for future high-density recording system Research into signal processing techniques is paramount for the issued storage system and is indispensable like longitudinal recording systems. This paper focuses on the performance evaluation of the various detectors under perpendicular recording system. Parameters for improving the their performance are examined for some detectors. Detectors considered in this work are the partial response maximum likelihood (PRML), noise-predictive maximum likelihood (NPML), fixed delay tree search with decision feedback (FDTS/DF), dual decision feedback equalizer (DDFE) and multilevel decision feedback equalizer (MDFE). Their performances are analyzed in terms of mean squared error (MSE) and noise power spectra, and similarity between recording channel and partial response (PR) channel.

잡음 환경에 효과적인 마스크 기반 음성 향상을 위한 손실함수 조합에 관한 연구 (A study on combination of loss functions for effective mask-based speech enhancement in noisy environments)

  • 정재희;김우일
    • 한국음향학회지
    • /
    • 제40권3호
    • /
    • pp.234-240
    • /
    • 2021
  • 본 논문에서는 잡음 환경에서 효과적인 음성 인식을 위해 마스크 기반의 음성 향상 기법을 개선한다. 마스크 기반의 음성 향상 기법에서는 심층 신경망을 기반으로 추정한 마스크를 잡음 오염 음성에 곱하여 향상된 음성을 얻는다. 마스크 추정 모델로 VoiceFilter(VF) 모델을 사용하고 추정된 마스크로 얻은 음성으로부터 잔여 잡음을 보다 확실히 제거하기 위해 Spectrogram Inpainting(SI)기법을 적용한다. 본 논문에서는 음성 향상 결과를 보다 개선하기 위해 마스크 추정을 위한 모델 학습 과정에 사용되는 조합된 손실함수를 제안한다. 음성 구간에 남아 있는 잡음을 보다 효과적으로 제거하기 위해 잡음 오염 음성에 마스크를 적용한 Triplet 손실함수의 Positive 부분을 컴포넌트 손실함수와 조합하여 사용한다. 실험 평가를 위한 잡음 음성 데이터는 TIMIT 데이터베이스와 NOISEX92, 배경음악 잡음을 다양한 Signal to Noise Ratio(SNR) 조건으로 합성하여 만들어 사용한다. 음성 향상의 성능 평가는 Source to Distortion Ratio(SDR), Perceptual Evaluation of Speech Quality(PESQ), Short-Time Objective Intelligibility(STOI)를 이용한다. 실험을 통해 평균 제곱 오차로만 훈련된 기존 시스템과 비교하여, VF 모델은 평균 제곱 오차로 훈련하고 SI 모델은 조합된 손실함수를 사용하였을 때 SDR은 평균 0.5dB, PESQ는 평균 0.06, STOI는 평균 0.002만큼 성능이 향상된 것을 확인했다.

효과적인 복소 스펙트럼 기반 음성 향상을 위한 시간과 주파수 영역 손실함수 조합에 관한 연구 (A study on loss combination in time and frequency for effective speech enhancement based on complex-valued spectrum)

  • 정재희;김우일
    • 한국음향학회지
    • /
    • 제41권1호
    • /
    • pp.38-44
    • /
    • 2022
  • 잡음에 오염된 음성의 명료도와 음질을 향상시키고자 음성 향상을 수행한다. 본 연구에서는 복소값 스펙트럼을 이용한 마스크기반 음성 향상에서 시간 영역 손실함수와 주파수 영역 손실함수에 따른 학습 결과를 비교하였다. 시간 영역의 음성 파형과 주파수 영역의 스펙트럼의 세부정보를 고려해 두 영역의 장점을 활용할 수 있도록 손실함수 조합에 관해 연구를 진행하였다. 시간 영역 손실함수는 Scale Invariant-Source to Noise Ratio(SI-SNR)을 이용해 계산하고, 주파수 영역 손실함수는 복소값 스펙트럼과 크기 스펙트럼을 Mean Squared Error(MSE)로 계산하여 사용하였고, sin 함수를 이용해 위상에 대한 손실함수를 계산하였다. 손실함수 조합은 시간 영역 손실함수인 SI-SNR과 각 주파수 영역 손실함수를 조합하였다. 또한 크기 값과 위상 값을 모두 고려할 수 있도록 SI-SNR과 크기 스펙트럼, 위상에 관련된 손실함수들도 조합하여 실험을 진행하였다. 음성 향상 결과는 Source-to-Distortion Ratio(SDR), Perceptual Evaluation of Speech Quality(PESQ), Short-Time Objective Intelligibility(STOI)를이용해 성능 비교 평가를 진행하였다. 음성 향상 결과를 확인해보기 위해 스펙트럼 상에서 비교를 진행하였다. TIMIT 데이터베이스를 이용한 실험 결과, 시간 영역 또는 주파수 영역 손실함수보다 SI-SNR과 크기 스펙트럼을 조합한 손실함수를 사용하여 음성 향상을 학습했을 때 가장 높은 성능을 보였다.

복소 채널의 위상 왜곡 보상을 위한 델타함수 기반의 확률분포거리 최소화 블라인드 알고리듬 (PDF-Distance Minimizing Blind Algorithm based on Delta Functions for Compensation for Complex-Channel Phase Distortions)

  • 김남용;강성진
    • 한국산학기술학회논문지
    • /
    • 제11권12호
    • /
    • pp.5036-5041
    • /
    • 2010
  • 이 논문은, 델타함수열에 기본을 둔 블라인드 알고리듬을 복소 채널에 적용할 수 있도록 그 복소화 과정을 소개하고 복소 채널의 블라인드 등화에서 채널의 위상왜곡 문제를 해결할 수 있음을 보였다. 또한, 기존의 랜덤 심볼열을 사용한 방식에 비해 가우시안 커널의 폭이 비교적 작은 값을 갖는 것으로 나타나, 출력 신호점을 원하는 심볼점에 끌어오는 정보 포텐셜의 값이 보다 큰 것으로 분석되었다. 16 QAM 시스템에 복소 위상왜곡 채널을 기준으로 하여 자승평균오차 (MSE)의 수렴 성능과 심볼점 집결성능을 평가하였으며 시뮬레이션 결과에서 채널 위상 왜곡이 효과적으로 보상됨을 성상도 성능에서 보였으며 정상상태 MSE 성능에서는 기존 방식보다 5 dB 이상 개선되었다.

Wavelet 변환과 결합한 잔차 학습을 이용한 희박뷰 전산화단층영상의 인공물 감소 (Artifact Reduction in Sparse-view Computed Tomography Image using Residual Learning Combined with Wavelet Transformation)

  • 이승완
    • 한국방사선학회논문지
    • /
    • 제16권3호
    • /
    • pp.295-302
    • /
    • 2022
  • 희박뷰 전산화단층촬영(computed tomography; CT) 영상화 기술은 피폭 방사선량을 감소시킬 수 있을 뿐만 아니라 획득한 투영상의 균일성을 유지하고 잡음을 감소시킬 수 있는 장점이 있다. 하지만 재구성 영상 내 인공물 발생으로 인하여 화질 및 피사체 구조가 왜곡되는 단점이 있다. 본 연구에서는 희박뷰 CT 영상의 인공물 감소를 위해 wavelet 변환과 잔차 학습(residual learning)을 적용한 콘볼루션 신경망(convolutional neural network; CNN) 기반 영상화 모델을 개발하고, 개발한 모델을 통한 희박뷰 CT 영상의 인공물 감소 정도를 정량적으로 분석하였다. CNN은 wavelet 변환 층, 콘볼루션 층 및 역 wavelet 변환 층으로 구성하였으며, 희박뷰 CT 영상과 잔차 영상을 각각 입출력 영상으로 설정하여 영상화 모델 학습을 진행하였다. 영상화 모델 학습을 위해 평균제곱오차(mean squared error; MSE)를 손실함수로, Adam 함수를 최적화 함수로 사용하였다. 학습된 모델을 통해 입력 희박뷰 CT 영상에 대한 예측 잔차 영상을 획득하고, 두 영상간의 감산을 통해 최종 결과 영상을 획득하였다. 또한 최종 결과 영상에 대한 시각적 특성, 최대신호대잡음비(peak signal-to- noise ratio; PSNR) 및 구조적유사성지수(structural similarity; SSIM)를 측정하였다. 연구결과 본 연구에서 개발한 영상화 모델을 통해 희박뷰 CT 영상의 인공물이 효과적으로 제거되며, 공간분해능이 향상되는 결과를 확인하였다. 또한 wavelet 변환과 잔차 학습을 미적용한 영상화 모델에 비해 본 연구에서 개발한 영상화 모델은 결과 영상의 PSNR 및 SSIM을 각각 8.18% 및 19.71% 향상시킬 수 있음을 확인하였다. 따라서 본 연구에서 개발한 영상화 모델을 이용하여 희박뷰 CT 영상의 인공물 제거는 물론 공간분해능 향상 및 정량적 정확도 향상 효과를 획득할 수 있다.

사전 부호화를 이용한 TEA 적응 등화기의 성능 개선에 관한 연구 (A Study on the Performance improvement of TEA adaptive equalizer using Precoding)

  • 임승각
    • 정보처리학회논문지C
    • /
    • 제13C권3호
    • /
    • pp.369-374
    • /
    • 2006
  • 본 논문은 수신된 신호의 고차 통계치를 이용하는 TEA(Tricepstrum Equalization Alogorithm) 기반의 적응 등화기 성능 개선에 관한 것이다. 적응 등화기는 주로 부가 잡음, 위상 찌그러짐 및 주파수 선택성 페이딩이 존재하는 통신 채널 환경에서 수신측에서 통신의 고속, 동기 유지, BER 과같은 성능 개선을 위하여 사용되는데 이의 특성은 통신 채널의 전달 함수의 역특성을 갖게된다. 논문에서 적응 등화기의 알고리즘으로는 고차 통계치(HOS)를 이용하는 TEA 알고리즘을 사용하였으며 대상 신호로는 2 차원 선호 방식인 16-QAM을 이용하였다. 16-QAM의 사전 부호화를 위한 신호점 할당시에 Gray 부호를 이용함으로서 등화기의 성능을 나타내는 잔류 부호간 간섭(Residual ISI)과 MSE에서 개선된 성능을 컴퓨터 시뮬레이션으로 얻을 수 있었다.