• 제목/요약/키워드: MSE(Mean Square Error)

검색결과 294건 처리시간 0.023초

ATSC 디지털 TV 방송수신 성능개선을 위한 DCT 계층적 LMS DFE 알고리즘 연구 (A Study on DCT Hierarchical LMS DFE Algorithm to Improve the Performance of ATSC Digital TV Broadcasting)

  • 김재욱;서종수
    • 한국통신학회논문지
    • /
    • 제28권7A호
    • /
    • pp.529-536
    • /
    • 2003
  • 본 논문은 ATSC(Advanced Television System Committee) 8VSB(Vestigial Side Band) 방식의 디지털 지상파 TV 시스템에서 수신 채널 등화기의 수렴속도와 MSE(Mean Square Error) 성능을 개선하기 위한 DCT HLMS DFE(Discrete Cosine Transform Hierarchical Least Mean Square Decision Feedback Equalizer) 알고리즘을 제안한다. 제안한 알고리즘은 기존의 LMS(Least Mean Square) DFE 를 계층적 구조의 서브필터로 변형함으로써 수신 데이터 상관 행렬의 고유값 범위를 줄인다. 또한, DCT와 전력추정 알고리즘을 사용하여 다중경로 수신환경에서 수신 신호의 왜곡 및 지연에 따른 입력데이터에 대한 고유값 확산을 작게 한다. 전산 모의실험 결과, 제안한 DCT HLMS DFE는 ATTC(Advanced Television Technology Center)가 제시한 디지털 지상파 TV 방송 채널 중 A, B 그리고 F 채널에서 채널 등화 이후의 심볼 에러율이 0.2일 때 기존의 LMS BFE 보다 SNR이 각각 약 3.8dB, 5dB 그리고 2dB 개선되었다.

목포항 여객수 및 적정 선복량 추정에 관한 연구 (Forecasting of Passenger Numbers, Freight Volumes and Optimal Tonnage of Passenger Ship in Mokpo Port)

  • 장운재;금종수
    • 한국항해항만학회지
    • /
    • 제28권6호
    • /
    • pp.509-515
    • /
    • 2004
  • 여객수와 화물량에 대한 예측은 터미널의 개발 및 계획, 선사의 적정선복량 화보를 위해 중요하다. 본 연구에서는 역전파 학습 알고리즘을 이용한 뉴럴네트웍을 이용하여 목포항 여객수와 화물량을 예측하였다. 그리고 이동평균법, 지수평활법, 뉴럴네트웍의 예측수행을 평균제곱오차, 절대평균오차로 비교하여 뉴럴네트웍의 예측수행능력이 우수함을 검정하였다. 또한 2005년 목포항 여객수와 화물량을 예측하여 여객선 선복량의 적정성을 분석하였다.

단조변환 및 웨이블릿 서브밴드 잡음전력을 이용한 Soft-Threshold 기법의 영상 잡음제거 (Denoising Images by Soft-Threshold Technique Using the Monotonic Transform and the Noise Power of Wavelet Subbands)

  • 박남천
    • 융합신호처리학회논문지
    • /
    • 제15권4호
    • /
    • pp.141-147
    • /
    • 2014
  • 웨이블릿 축소기법은 웨이블릿 변환 계수의 분산 값에 의해 결정되는 경계값을 이용해서 원신호와 잡음신호 간의 MSE(Mean Square Error)가 최소가 되도록 웨이블릿 변환된 계수를 축소하는 방법이다. 이 논문에서는 단조변환 및 웨이블릿 서브밴드의 전력을 이용해서 고주파 및 저주파 웨이블릿 밴드에 적용되는 새로운 경계값들을 제시하고, 이 값들과 ST(soft-threshold) 연산자에 의해 영상신호에 부가된 가우시안 잡음을 제거하였다. 그리고 그 결과를 VisuShrink방법 및 [15]에서의 제시한 기법의 결과와 PSNR로 비교, 평가하고 이 기법의 실용성을 밝혔다.

WCDMA 무선 중계기에서 CMF 알고리즘을 이용한 간섭 제거 방식 (Interference Cancellation Methods using the CMF(Constant Modulus Fourth) Algorithm for WCDMA RF Repeater)

  • 한용식;양운근
    • 전기전자학회논문지
    • /
    • 제15권4호
    • /
    • pp.293-298
    • /
    • 2011
  • 본 논문에서 광대역 코드분할 다중접속 무선 중계기에서 간섭제거를 위한 새로운 CMF(Constant Modulus Fourth) 알고리즘을 제안한다. CMF 알고리즘은 고정 계수 알고리즘인 CMA(Constant Modulus Algorithm)를 수정한 것으로서, 스텝 사이즈를 적절하게 조절함에 따라 개선된 성능을 보이게 된다. 제안된 CMF 알고리즘에서 스텝사이즈가 0.35인 경우 수렴상태에서 평균 자승 에러는 기존 CMA 알고리즘보다 약 4 dB정도 더 낮다. 그리고, 평균 자승 에러 -25dB를 기준으로하면 LMS(Least Mean Square)와 NLMS(Normalized Least Mean Square)보다 반복회수가 400~1100번 정도 줄어든다.

Improvement of Minimum MSE Performance in LMS-type Adaptive Equalizers Combined with Genetic Algorithm

  • Kim, Nam-Yong
    • Journal of electromagnetic engineering and science
    • /
    • 제4권1호
    • /
    • pp.1-7
    • /
    • 2004
  • In this paper the Individual tap - Least Mean Square(IT-LMS) algorithm is applied to the adaptive multipath channel equalization using hybrid-type Genetic Algorithm(GA) for achieving lower minimum Mean Squared Error(MSE). Owing to the global search performance of GA, LMS-type equalizers combined with it have shown preferable performance in both global and local search but those still have unsatisfying minimum MSE performance. In order to lower the minimum MSE we investigated excess MSE of IT-LMS algorithm and applied it to the hybrid GA equalizer. The high convergence rate and lower minimum MSE of the proposed system give us reason to expect that it will perform well in practical multi-path channel equalization systems.

머신러닝 기반 고용량 I-131의 용량 예측 모델에 관한 연구 (A Study on Predictive Modeling of I-131 Radioactivity Based on Machine Learning)

  • 유연욱;이충운;김정수
    • 대한방사선기술학회지:방사선기술과학
    • /
    • 제46권2호
    • /
    • pp.131-139
    • /
    • 2023
  • High-dose I-131 used for the treatment of thyroid cancer causes localized exposure among radiology technologists handling it. There is a delay between the calibration date and when the dose of I-131 is administered to a patient. Therefore, it is necessary to directly measure the radioactivity of the administered dose using a dose calibrator. In this study, we attempted to apply machine learning modeling to measured external dose rates from shielded I-131 in order to predict their radioactivity. External dose rates were measured at 1 m, 0.3 m, and 0.1 m distances from a shielded container with the I-131, with a total of 868 sets of measurements taken. For the modeling process, we utilized the hold-out method to partition the data with a 7:3 ratio (609 for the training set:259 for the test set). For the machine learning algorithms, we chose linear regression, decision tree, random forest and XGBoost. To evaluate the models, we calculated root mean square error (RMSE), mean square error (MSE), and mean absolute error (MAE) to evaluate accuracy and R2 to evaluate explanatory power. Evaluation results are as follows. Linear regression (RMSE 268.15, MSE 71901.87, MAE 231.68, R2 0.92), decision tree (RMSE 108.89, MSE 11856.92, MAE 19.24, R2 0.99), random forest (RMSE 8.89, MSE 79.10, MAE 6.55, R2 0.99), XGBoost (RMSE 10.21, MSE 104.22, MAE 7.68, R2 0.99). The random forest model achieved the highest predictive ability. Improving the model's performance in the future is expected to contribute to lowering exposure among radiology technologists.

중계 시스템을 위한 MSE-기반 송신 전력 감소 기법 (MSE-Based Power Saving Method for Relay Systems)

  • 정진곤
    • 한국통신학회논문지
    • /
    • 제34권7A호
    • /
    • pp.562-567
    • /
    • 2009
  • 본 논문에서는 여러 송수신 안테나를 갖는 송신기(source node), 중계기(relay node), 수신기(destination node)로 구성된 두 홉(two-hop) 빔포밍(beamforming) 중계 시스템을 고려한다. 송수신 심벌간 평균제곱오차(mean square error: MSE)를 최소화하는 송수신기 빔포밍 벡터와 중계기 가중치 행렬을 설계한다. 이때, 송신기 또는 중계기에 송신 전력을 줄이기 위하여, 국소(local)부동식전력제약(inequality power constraint)을 사용한다. 제약식이 있는 평균제곱오차 최소화 문제는 라그랑즈(Lagrange) 방법을 써 제약식이 없는 최적화 문제로 바꿀 수 있고, Karush-Kuhn-Tucker (KKT) 조건으로부터 그 해를 얻을 수 있다. 제안한 중계 시스템에 송신기와 중계기 송신전력을 각각 국소부동식으로 제약하여, 그 결과 두 홉에 채널 상태가 다를 경우, 최대 신호대잡음비(signal-to-noise ratio: SNR)를 얻는 기존 방식과 대등한 성능을 내며, 동시에 송신기 또는 중계기 송신 전력을 줄일 수 있다. 이를 모의실험을 통해 확인하였다.

Linear Unequal Error Protection Codes based on Terminated Convolutional Codes

  • Bredtmann, Oliver;Czylwik, Andreas
    • Journal of Communications and Networks
    • /
    • 제17권1호
    • /
    • pp.12-20
    • /
    • 2015
  • Convolutional codes which are terminated by direct truncation (DT) and zero tail termination provide unequal error protection. When DT terminated convolutional codes are used to encode short messages, they have interesting error protection properties. Such codes match the significance of the output bits of common quantizers and therefore lead to a low mean square error (MSE) when they are used to encode quantizer outputs which are transmitted via a noisy digital communication system. A code construction method that allows adapting the code to the channel is introduced, which is based on time-varying convolutional codes. We can show by simulations that DT terminated convolutional codes lead to a lower MSE than standard block codes for all channel conditions. Furthermore, we develop an MSE approximation which is based on an upper bound on the error probability per information bit. By means of this MSE approximation, we compare the convolutional codes to linear unequal error protection code construction methods from the literature for code dimensions which are relevant in analog to digital conversion systems. In numerous situations, the DT terminated convolutional codes have the lowest MSE among all codes.

DCT HLMS DFE를 이용한 DTV 등화 성능 개선 연구 (A Study on the Performance Improvement in Equalization of DTV using DCT HLMS DFE)

  • 김재욱;서종수
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2002년도 정기총회 및 학술대회
    • /
    • pp.27-30
    • /
    • 2002
  • 본 논문은 8VSB 방식의 디지털 지상파 TV 시스템에서 수신 채널 등화기의 수렴속도와 MSE(Mean Square Error) 성능을 개선하기 위하여 DCT HLMS DFE(Discrete Cosine Transform Hierarchical Least Mean Square)를 제안한다. 즉, 다중경로 수신 환경에서 수신 신호의 왜곡 및 지연에 따른 입력 데이터에 대한 고유값 확산을 감소하기 위하여 DCT와 전력추정 알고리즘을 사용하고 또한, LMS(Least Mean Square) DFE를 계층적 구조의 서브필터로 변형함으로써 수신 데이터상관 행렬의 고유값 범위를 줄인다. 전산모의 실험 결과 제안한 DCT HLMS DFE는 ATTC(Advanced Television Test Center)가 제시한 디지털 지상파 TV 방송 채널 중 A 채널 하에서 기존의 LMS DFE 보다 수렴속도와 MSE 성능이 개선됨을 알 수 있다.

  • PDF

케이블모뎀용 등화기에 적용되는 다양한 LMS알고리즘에 관한 성능평가 및 최적의 등화기 하드웨어구조 제안 (Proposal Of Optimum Equalizer Hardware Architecture for Cable Modem and Analysis of Various LMS Algorithms)

  • 조연곤;유형석;김병욱;조준동;김재우;이재곤;박현철
    • 한국통신학회논문지
    • /
    • 제27권2C호
    • /
    • pp.150-159
    • /
    • 2002
  • 본 논문지 MCNS(Multimedia Cable Network System) DOCSIS(Data Over Cable Service Interface Specification) v1.0/v1.1 표준안에 대응하는 케이블모뎀 수신단의 FS-DFE(Fractionally Spaced-Decision Feedback Equalize)에 적용될 다양한 LMS(Least Mean Square)알고리즘에 관하여 수렴특성, SER(Symbol Error Rate) 및 MSE(Mean Square Error) 성능, 하드웨어 복잡도 그리고 step-size(${\mu}$)와의 관계를 $SPW^{TM}$로 모델링하고, 그들 개개의 성능을 보여다. 그리고 Verilog-HDL을 이용하여 RTL 구조를 구성하였고, $SYNOPSYS^{TM}$을 통해 삼성 STD90 라이브러리로 합성하였다. 또한 본 논문에서는 최적의 하드웨어 구조를 가지기 위한 time-multiplexed multiplication 과 tap shared architecture구조를 채택하였다. 실험 결과를 통하여 LMS, DS(Data Signed)-LMS, ES(Error Signed)-LMS, SS(Signed Signed)-LMS[1][3]과 같은 다양한 LMS 알고리즘들 중 DS-LMS 알고리즘이 성능과 하드웨어를 고려한 최적의 알고리즘임을 보였고, DS-LMS 알고리즘 및 여러 가지 저면적 점유 기법을 이용하여 최대 58%까지 하드웨어 면적을 줄일 수 있었다.