• 제목/요약/키워드: mean squared error (MSE)

검색결과 168건 처리시간 0.022초

단순 라플라스 연산자를 사용한 새로운 고속 및 고성능 영상 화질 측정 척도 (A Novel Fast and High-Performance Image Quality Assessment Metric using a Simple Laplace Operator)

  • 배성호;김문철
    • 방송공학회논문지
    • /
    • 제21권2호
    • /
    • pp.157-168
    • /
    • 2016
  • 영상 처리 및 컴퓨터 비전 분야에 있어서, 평균 제곱 오차(Mean Squared Error: MSE)는 좋은 수학적 특성(예를 들어, 척도성(metricability), 미분가능성(differentiability) 및 볼록 성질(convexity))을 가짐으로 인해 많은 영상 화질 최적화 문제의 객관적 척도로 사용되어 왔다. 그러나 MSE가 영상의 왜곡 신호에 대한 시각적 인지 화질과 상관도가 높지 않다는 것이 알려지면서, 이를 해결하기 위해 위에서 언급한 좋은 수학적 특성과 높은 영상 화질 예측 성능을 동시에 가지는 객관적 영상 화질 측정(Image Quality Assessment: IQA)척도가 활발히 연구되어 왔다. 비록 최근 제안된 좋은 수학적 성질을 만족시키는 IQA 척도들은 MSE와 비교하여 매우 향상된 주관적 화질 예측 성능을 보이지만, 상대적으로 높은 계산 복잡도를 가진다. 본 논문은 이를 해결하기 위해, 단순 라플라스 연산자를 이용한 좋은 수학적 특성을 가지는 새로운 IQA 척도를 제안한다. 제안 IQA 방법에 도입한 단순 라플라스 연산자는 인간 시각 체계의 망막에서의 광도 자극에 대한 시신경 반응을 효과적으로 모사할 뿐만 아니라 계산이 매우 단순하기 때문에, 제안 IQA 척도는 단순 라플라스 연산자를 사용하여 매우 빠른 계산 속도와 높은 주관적 화질 점수 예측력을 확보하였다. 제안 IQA 척도의 효과를 검증하기 위해, 최신 IQA 척도들과 광범위한 성능비교 실험을 수행하였다. 실험 결과, 제안하는 IQA 척도는 모든 테스트 IQA 척도들 중 MSE를 제외하고 가장 빠른 처리 속도를 보였을 뿐만 아니라, 가장 높은 주관적 화질예측 성능을 보였다.

협대역 재밍환경에서 재밍된 파일럿 제거 방법을 이용한 OFDM시스템의 채널추정에 관한 연구 (OFDM Channel Estimation with Jammed Pilot Excision Method under Narrow-Band Jamming)

  • 한명수;류탁기;김지형;곽경철;한승엽;홍대식
    • 한국통신학회논문지
    • /
    • 제32권2C호
    • /
    • pp.166-173
    • /
    • 2007
  • OFDM(Orthogonal Frequency Division Multiplexing) 시스템에서 채널추정을 위해 사용되는 파일럿에 발생하는 협대역 재밍은 시스템 성능에 나쁜 영향을 준다. 본 논문에서는 이 문제를 해결하기 위해 재밍된 파일럿을 검출하여 제거할 수 있는 방법을 제안한다. 또한, 한 개의 OFDM 심볼에서 재밍된 파일럿과 제거된 파일럿으로 인해 발생하는 평균 제곱 오류(Mean Squared Error, MSE)를 분석한다. 그리고, 실험을 통해 제안된 알고리즘을 사용한 채널추정 구조의 심볼 오류율(Symbol Error Rate, SER) 성능을 평가한다. 제안된 방법은 재밍 전력이 높은 환경에서 채널추정 성능을 향상시킬 수 있음을 확인하였다.

JPEG2000에서 저 전송 부호화를 위한 비주얼 양자화기 설계 (Design of Visual Quantizer for very low Bit-rate Coding on JPEG2000)

  • 김동혁;전준현
    • 대한전자공학회논문지SP
    • /
    • 제47권4호
    • /
    • pp.69-78
    • /
    • 2010
  • 대역분할 부호화방식의 표준인 비가역 9/7 JPEG2000의 경우 0.15bpp 이하에서 양자화 손실로 배경과 에지 부분에서 급격한 화질 왜곡이 발생하는 문제점을 갖고 있다. 본 논문에서는 이러한 문제를 해결하기 위해 고주파대역들의 L-pdf(Laplace probability density function) 통계특성을 이용한 VQ(Visual Quantizer)를 제안하였다. 제안된 VQ는 재생영상의 화질왜곡을 최소화하기 위한 비주얼파라메타와 효율적인 비트율 감축을 위한 가중치 파라메타를 각각 사용하여 설계되었다. 실험결과 제안된 VQ는 0.15bpp이하에서도 재생영상의 시각적 손실을 최소화하면서 재생영상의 화질왜곡 기준척도인 MSE(Mean-Squared Error)도 최소화 할 수 있었다.

임펄스 잡음환경에서 변형된 적응 메디안 필터에 관한 연구 (A Study on Modified Adaptive Median Filter in Impulse Noise Environment)

  • ;안영주;김남호
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국정보통신학회 2013년도 춘계학술대회
    • /
    • pp.883-885
    • /
    • 2013
  • 영상복원은 영상에 첨가되는 여러가지 잡음을 제거하여 잡음이 영상에 미치는 영향을 줄이는 것이다. 영상복원을 위해, 평균 필터, 메디안 필터, 가중치 필터 등 방법들이 제안되었으나 이러한 기존의 방법들은 잡음제거 및 에지 보존 성능이 미흡하다. 따라서 본 논문에서는 효과적으로 잡음을 제거하기 위해 마스크 메디안 값의 여부에 따라 마스크 크기를 확대 시키는 변형된 적응 메디안 필터 알고리즘을 제안하였다. 그리고 시뮬레이션을 통해 기존의 방법들과 비교하였으며 판단의 기준으로 MSE(mean squared error)를 사용하였다.

  • PDF

ARMA-GARCH 모형에 의한 중국 금 선물 시장 가격 변동에 대한 분석 및 예측 (Volatility analysis and Prediction Based on ARMA-GARCH-typeModels: Evidence from the Chinese Gold Futures Market)

  • 이몽화;김석태
    • 무역학회지
    • /
    • 제47권3호
    • /
    • pp.211-232
    • /
    • 2022
  • Due to the impact of the public health event COVID-19 epidemic, the Chinese futures market showed "Black Swan". This has brought the unpredictable into the economic environment with many commodities falling by the daily limit, while gold performed well and closed in the sunshine(Yan-Li and Rui Qian-Wang, 2020). Volatility is integral part of financial market. As an emerging market and a special precious metal, it is important to forecast return of gold futures price. This study selected data of the SHFE gold futures returns and conducted an empirical analysis based on the generalised autoregressive conditional heteroskedasticity (GARCH)-type model. Comparing the statistics of AIC, SC and H-QC, ARMA (12,9) model was selected as the best model. But serial correlation in the squared returns suggests conditional heteroskedasticity. Next part we established the autoregressive moving average ARMA-GARCH-type model to analysis whether Volatility Clustering and the leverage effect exist in the Chinese gold futures market. we consider three different distributions of innovation to explain fat-tailed features of financial returns. Additionally, the error degree and prediction results of different models were evaluated in terms of mean squared error (MSE), mean absolute error (MAE), Theil inequality coefficient(TIC) and root mean-squared error (RMSE). The results show that the ARMA(12,9)-TGARCH(2,2) model under Student's t-distribution outperforms other models when predicting the Chinese gold futures return series.

Ratio Cum Regression Estimator for Estimating a Population Mean with a Sub Sampling of Non Respondents

  • Kumar, Sunil
    • Communications for Statistical Applications and Methods
    • /
    • 제19권5호
    • /
    • pp.663-671
    • /
    • 2012
  • In the present study, a combined ratio cum regression estimator is proposed to estimate the population mean of the study variable in the presence of a non-response using an auxiliary variable under double sampling. The expressions of bias and mean squared error(MSE) based on the proposed estimator is derived under double (or two stage) sampling to the first degree of approximation. Some estimators are also derived from the proposed class by allocating the suitable values of constants used. A comparison of the proposed estimator with the usual unbiased estimator and other derived estimators is carried out. An empirical study is carried out to demonstrate the performance of the suggested estimator and of others; it is endow that the empirical results backing the theoretical study.

Some efficient ratio-type exponential estimators using the Robust regression's Huber M-estimation function

  • Vinay Kumar Yadav;Shakti Prasad
    • Communications for Statistical Applications and Methods
    • /
    • 제31권3호
    • /
    • pp.291-308
    • /
    • 2024
  • The current article discusses ratio type exponential estimators for estimating the mean of a finite population in sample surveys. The estimators uses robust regression's Huber M-estimation function, and their bias as well as mean squared error expressions are derived. It was campared with Kadilar, Candan, and Cingi (Hacet J Math Stat, 36, 181-188, 2007) estimators. The circumstances under which the suggested estimators perform better than competing estimators are discussed. Five different population datasets with a well recognized outlier have been widely used in numerical and simulation-based research. These thorough studies seek to provide strong proof to back up our claims by carefully assessing and validating the theoretical results reported in our study. The estimators that have been proposed are intended to significantly improve both the efficiency and accuracy of estimating the mean of a finite population. As a result, the results that are obtained from statistical analyses will be more reliable and precise.

A Study on the Efficiency of a Two Stage Shrinkage Testimator for the Mean of an Exponential Distribution

  • Myung-Sang Moon
    • Communications for Statistical Applications and Methods
    • /
    • 제5권1호
    • /
    • pp.231-238
    • /
    • 1998
  • A two stage shrinkage testimator for the mean of an exponential distribution is considered with the assumption that an initial estimate of the mean is available. Mean squared error(MSE) of testimator and its relative efficiency (to usual single sample mean) are briefly reviewed. It is shown that relative efficiency depends only on the ratio of true mean value and its initial estimate.

  • PDF

Approximate MLE for Singly Truncated Normal Distribution

  • Suk-Bok Kang;Young-Suk Cho
    • Communications for Statistical Applications and Methods
    • /
    • 제5권3호
    • /
    • pp.879-885
    • /
    • 1998
  • In this paper, we propose the approximate maximum likelihood estimators (AMLE) of the location and the scale parameter of the singly left truncated normal distribution. We compare the proposed estimators with the simpler estimators (SE) in terms of the mean squared error (MSE) through Monte Carlo methods.

  • PDF

적응 간섭 제거 시스템을 위한 상관도를 적용한 적응적 궤환 간섭 제거 알고리즘 (Adaptive Feedback Interference Cancellation Algorithm Using Correlations for Adaptive Interference Cancellation System)

  • 한용식;양운근
    • 한국전자파학회논문지
    • /
    • 제21권4호
    • /
    • pp.427-432
    • /
    • 2010
  • 셀룰러 시스템에서의 음영 지역 해소 및 전송 용량 증대를 위해 중계기의 중요성은 계속적으로 증가하고 있다. 그러나 RF 중계기는 중계된 전송 신호의 일부가 궤환되어 다시 수신 안테나에 수신되는 궤환 간섭 신호가 발생한다. 이런 문제를 해결하기 위하여 본 논문에서는 RF 중계기의 성능 개선을 위해 상관도를 적용한 Sign-Sign LMS(Least Mean Square)를 제안하였다. 기존 알고리즘의 제곱된 에러를 최소화하기 위해 가중치 벡터는 입력 신호와 오차 신호의 부호에 취하고, 이를 활용하여 갱신된다. 제안된 간섭 제거기는 기존 방식과 비교하여 MSE(Mean Square Error) 측면에서 최대 10 dB의 성능 이득을 가진다.