• 제목/요약/키워드: mean squared error (MSE)

검색결과 171건 처리시간 0.024초

Water level forecasting for extended lead times using preprocessed data with variational mode decomposition: A case study in Bangladesh

  • Shabbir Ahmed Osmani;Roya Narimani;Hoyoung Cha;Changhyun Jun;Md Asaduzzaman Sayef
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2023년도 학술발표회
    • /
    • pp.179-179
    • /
    • 2023
  • This study suggests a new approach of water level forecasting for extended lead times using original data preprocessing with variational mode decomposition (VMD). Here, two machine learning algorithms including light gradient boosting machine (LGBM) and random forest (RF) were considered to incorporate extended lead times (i.e., 5, 10, 15, 20, 25, 30, 40, and 50 days) forecasting of water levels. At first, the original data at two water level stations (i.e., SW173 and SW269 in Bangladesh) and their decomposed data from VMD were prepared on antecedent lag times to analyze in the datasets of different lead times. Mean absolute error (MAE), root mean squared error (RMSE), and mean squared error (MSE) were used to evaluate the performance of the machine learning models in water level forecasting. As results, it represents that the errors were minimized when the decomposed datasets were considered to predict water levels, rather than the use of original data standalone. It was also noted that LGBM produced lower MAE, RMSE, and MSE values than RF, indicating better performance. For instance, at the SW173 station, LGBM outperformed RF in both decomposed and original data with MAE values of 0.511 and 1.566, compared to RF's MAE values of 0.719 and 1.644, respectively, in a 30-day lead time. The models' performance decreased with increasing lead time, as per the study findings. In summary, preprocessing original data and utilizing machine learning models with decomposed techniques have shown promising results for water level forecasting in higher lead times. It is expected that the approach of this study can assist water management authorities in taking precautionary measures based on forecasted water levels, which is crucial for sustainable water resource utilization.

  • PDF

벡터양자화된 부대역 코덱에서 최적필터의 구현 (The Design of Optimal Filters in Vector-Quantized Subband Codecs)

  • 지인호
    • 한국음향학회지
    • /
    • 제19권1호
    • /
    • pp.97-102
    • /
    • 2000
  • 부대역 코딩은 데이터의 압축을 위해 신호의 주파수를 부대역 필터로 통과시켜 서로 상관이 없는 주파수대역으로 분할하여 각 대역의 신호의 에너지에 적합한 비트 할당을 사용하여 인코딩한다. 실제로 부대역 신호의 코딩은 PCM, DPCM이 사용되는 데 고압축의 전송속도를 얻기 위해서 벡터양자기를 사용하였다. 대부분의 연구자들은 부호화기의 오차에만 주안점을 두고 전체 필터대역의 회복오차와 이 오차가 필터대역에 의존되는 것에는 연구가 진행되지 않았다. 본 논문은 벡터양자기를 사용한 부대역 코덱의 분석과 최적구현의 새로운 접근방법을 제공하여 준다. 본 논문에서는 부대역 코덱에서 벡터양자기의 코드 북의 크기와 벡터크기 그리고 대역필터계수에 의존되는 전체 시스템의 회복오차인 Mean Squared reconstruction Error(MSE)를 계산하였다. 본 논문에서는 각 대역의 구조에서 이 MSE로 양자화를 모델링하고 주어진 전송속도, 필터길이, 입력신호 상관모델의 함수인 이 MSE를 최소화하는 최적의 Finite Impulse Response(FIR) 필터를 구현하였다. 최적구현의 예로 2-채널의 paraunitary 필터뱅크의 4-tap 필터계수를 구하였다. 이 paraunitary 최적의 필터 계수들을 Monte Carlo 모의시험을 사용하여 구하였다. 이 논문은 벡터양자기를 사용한 부대역 코덱의 분석방법을 제공하여 주어서 그 활용도가 기대된다.

  • PDF

Novel Preamble Design for Channel Estimation in FBMC/OQAM Systems

  • Wang, Han;Du, Wencai;Xu, Lingwei
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제10권8호
    • /
    • pp.3672-3688
    • /
    • 2016
  • The nonorthogonality between the real and imaginary FBMC/OQAM modulated signals complicates the channel estimation (CE) process, and conventional OFDM CE methods cannot be directly applied to FBMC/OQAM. The conventional preamble-based CE schemes in FBMC/OQAM systems are mainly based on the interference approximation method (IAM) to improve the estimation performance. In this paper, we develop a novel preamble structure to improve the CE performance. We exploit the symmetry pattern to cancel interference and take into account the interference weights in this symmetric structure. The conventional preamble and the proposed preamble are compared via simulations in the IEEE 802.22, 3GPP Vehicular A and Pedestrian A channels. Numerical simulation results demonstrate that the proposed preamble can achieve better bit error ratio (BER) and mean squared error (MSE) performance under the three channel models considered.

결정 궤환 재귀 신경망을 이용한 비선형 채널의 등화 (Nonlinear channel equalization using a decision feedback recurrent neural network)

  • 옹성환;유철우;홍대식
    • 전자공학회논문지S
    • /
    • 제34S권9호
    • /
    • pp.23-30
    • /
    • 1997
  • In this paper, a decision feedback recurrent neural equalization (DFRNE) scheme is proposed for adaptive equalization problems. The proposed equalizer models a nonlinear infinite impulse response (IIR) filter. The modified Real-Time recurrent Learning Algorithm (RTRL) is used to train the DFRNE. The DFRNE is applied to both linear channels with only intersymbol interference and nonlinear channels for digital video cassette recording (DVCR) system. And the performance of the DFRNE is compared to those of the conventional equalizaion schemes, such as a linear equalizer, a decision feedback equalizer, and neural equalizers based on multi-layer perceptron (MLP), in view of both bit error rate performance and mean squared error (MSE) convergence. It is shown that the DFRNE with a reasonable size not only gives improvement of compensating for the channel introduced distortions, but also makes the MSE converge fast and stable.

  • PDF

변환부호화된 영상신호에 대한 채널 오류의 영향 (Effects of Channel Errors on Transform-Coded Image Signals)

  • 백종기;문상재
    • 한국통신학회논문지
    • /
    • 제12권3호
    • /
    • pp.216-223
    • /
    • 1987
  • 본 논문에서는 영상신호의 변환부호화 시스템에서 통계적으로 독립적인 채널 전송오류의 영향을 MSE로 계산하였다. 양자화가 입력신호의 확률밀도함수를 Laplacian, Gaussian, 그리고 uniform분포로 가정하였으며, 양자화된 신호의 부호화시 사용되는 코드로는 NBC, FBC, MDC 및 Gray code가 고려되었다. 본 연구의 결과들로부터, 양자화기입력신호의 확률밀도함수에 따라 어떠한 코드로 부호화하는 것이 채널 전송오류의 영향을 작게 받는가를 알 수 있다.

  • PDF

Asymptotic Characteristics of MSE-Optimal Scalar Quantizers for Generalized Gamma Sources

  • 이재건;나상신
    • 한국통신학회논문지
    • /
    • 제37권5A호
    • /
    • pp.279-289
    • /
    • 2012
  • Characteristics, such as the support limit and distortions, of minimum mean-squared error (MSE) N-level uniform and nonuniform scalar quantizers are studied for the family of the generalized gamma density functions as N increases. For the study, MSE-optimal scalar quantizers are designed at integer rates from 1 to 16 bits/sample, and their characteristics are compared with corresponding asymptotic formulas. The results show that the support limit formulas are generally accurate. They also show that the distortion of nonuniform quantizers is observed to converge to the Panter-Dite asymptotic constant, whereas the distortion of uniform quantizers exhibits slow or even stagnant convergence to its corresponding Hui-Neuhoff asymptotic constant at the studied rate range, though it may stay at a close proximity to the asymptotic constant for the Rayleigh and Laplacian pdfs. Additional terms in the asymptote result in quite considerable accuracy improvement, making the formulas useful especially when rate is 8 or greater.

l/G 교체표본디자인에서의 일반화복합추정량과 평균제곱오차에 관한 연구 (Generalized Composite Estimators and Mean Squared Errors for l/G Rotation Design)

  • 김기환;박유성;남궁재은
    • 응용통계연구
    • /
    • 제17권1호
    • /
    • pp.61-73
    • /
    • 2004
  • 교체표본조사에서는 모든 표본단위를 복수 개(=G)의 교체그룹으로 나누고 일정 횟수만큼 조사한 후 표본단위 의 교체를 하는 경우와 조사기 간 동안 동일한 표본단위를 조사한 후 교체그룹 자체를 교체하는 두 가지 경우가 있다. 본 연구는 후자의 경우를 일반화하는 것으로, 매 조사월에서 하나의 교체그룹이 조사되고 이 교체그룹에 속한 모든 표본단위는 최근 l개월 동안의 정보를 제공하는 l-수준 교체표본설계이다. 표본단위 교체가 오직 교체그룹의 총 개수인 G와 회상 개월 수인 l에 의해 결정되므로 이를 l/G 교체표본설계로 일반화하였으며 일반화복합추정량의 분산과 두 가지 형태의 편향(bias)하에서 MSE를 구하고 절충 GCE(compromise GCE)의 계수를 유도하였다. 또한 GCE의 분산과 MSE를 상관계수, 편향, 표본조사단위의 분산의 형태, 그리고 설계간격(design gap)의 형태에 따라 분석하였다.

쌍대반응표면 최적화에서 편차와 분산의 가중치 결정에 관한 연구 (Determining the Relative Weights of Bias and Variance in Dual Response Surface Optimization)

  • 정인준;김광재;장수영
    • 한국경영과학회:학술대회논문집
    • /
    • 대한산업공학회/한국경영과학회 2004년도 춘계공동학술대회 논문집
    • /
    • pp.294-297
    • /
    • 2004
  • Mean squared error (MSE) is an effective criterion to combine the mean and the standard deviation responses in dual response surface optimization. The bias and variance components of MSE need to be weighted properly in the given problem situation. This paper proposes a systematic method to determine the relative weights of bias and variance in accordance with a decision maker's prior and posterior preference structure.

  • PDF

적은 계산량을 갖는 고속 Kalman/LMS 복합 구조 채널 등화기 (East Kalman/LMS Hybrid Equalizer with Low Complexity for HDTV Channel)

  • 서원길;박재홍;김민호;정정화
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2003년도 하계종합학술대회 논문집 Ⅳ
    • /
    • pp.2176-2179
    • /
    • 2003
  • 본 논문에서는 적은 계산량을 갖는 Fast Kalman/LMS 복합 구조 등화기를 제안한다. HDTV (High Definition Television)의 채널은 긴 지연을 가지는 다중경로가 존재하기 때문에 등화기에 많은 수의 탭이 필요하다. 그러나 실제로 다중경로에 영향을 받는 심볼은 몇 개의 탭에 의해서만 발생한다 본 논문에서는 훈련기간 초기에 Fast Kalman 알고리즘을 이용하여 MSE(Mean Squared Error) 값이 특정 임계치 이하가 될 때까지 빠르게 수렴을 시키고, 심볼들에 영향을 주지 않는 탭을 제외한 나머지 탭만을 LMS (Least Mean Squre) 알고리즘으로 갱신시킴으로써 계산량을 줄이는 새로운 방법을 제안한다. 시뮬레이션 결과 제안한 방법이 기존의 Fast Kalman/LMS 복합 구조에 비해 적은 계산량으로 비슷한 수렴 속도와 MSE를 갖는 것을 보여준다.

  • PDF

가속수명시험을 이용한 원샷 시스템의 신뢰도 추정방법 비교 (Comparison of Reliability Estimation Methods for One-shot Systems Using Accelerated Life Tests)

  • 손영갑;장현정
    • 대한산업공학회지
    • /
    • 제36권4호
    • /
    • pp.212-218
    • /
    • 2010
  • This paper shows accuracy comparison results of reliability estimation methods for one-shot systems with respect to sample sizes. To compare accuracy in reliability estimation methods, quantal-response data, characterizing one-shot systems, were simulated using failure times of LED obtained through the accelerated life test, and then the true reliability over time was evaluated using the failure times. The simulated quantal-response data were used to estimate the true reliability through applying reliability estimation methods in open literature. Accuracy of each reliability estimation method was compared in terms of both SSE (Sum of Squared Error) and MSE (Mean Squared Error), and then estimation trend for each method is found. Feasible bounds which true reliability would exist within were estimated through applying the found trends to quantal-response data set of a real weapon system.