• 제목/요약/키워드: Model Quantization

검색결과 224건 처리시간 0.026초

DZDC Coefficient Distributions for P-Frames in H.264/AVC

  • Wu, Wei;Song, Bin
    • ETRI Journal
    • /
    • 제33권5호
    • /
    • pp.814-817
    • /
    • 2011
  • In this letter, the distributions of direct current (DC) coefficients for P-frames in H.264/AVC are analyzed, and the distortion model of the Gaussian source under the quantization of the dead-zone plus-uniform threshold quantization with uniform reconstruction quantizer is derived. Experimental results show that the DC coefficients of P-frames are best approximated by the Laplacian distribution and the Gaussian distribution at small quantization step sizes and at large quantization step sizes, respectively.

The effects of scaling factors and quantization in sensors on free motion of teleoperation system

  • Hwang, Dal-Yeon;Cho, SangKyu;Park, Sanguk
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1997년도 한국자동제어학술회의논문집; 한국전력공사 서울연수원; 17-18 Oct. 1997
    • /
    • pp.1512-1515
    • /
    • 1997
  • One of the advantages of master-slave teleoperation is scaling concept such as position scaling, force scaling Meanuhile, lots of quantization effects are generated from position and force sensors in the master and slave manipulator. In this paper, to show the output error caused by the quantizaion effects from the position sensor and position scaling factor, simulation is done for free motion without contact in slave side. Transfer functiion model in which the quantization effect is assumed to be a disturbance input to the system is derived. Model shows that Jacobian, scaling factors, and controller affect the output by quantization effects form esnsors. One dof master and slave are used for simulation. In our study, the higher sensor resolution decreases the output error form quantization. Scaling factors can amplify the quantizatiion effects form the sensors in master and slave manipulators.

  • PDF

Multi-frame AR model을 이용한 LPC 계수 양자화 (Quantization of LPC Coefficients Using a Multi-frame AR-model)

  • 정원진;김무영
    • 한국음향학회지
    • /
    • 제31권2호
    • /
    • pp.93-99
    • /
    • 2012
  • 음성코딩 시 성도는 Linear Predictive Coding (LPC) 계수를 이용해서 모델링 한다. 일반적으로 LPC 계수는 양자화와 선형보간 관점에서 유리한 Line Spectral Frequency (LSF) 파라미터로 변경하여 사용한다. 10차 이상의 다차원 LSF 데이터를 벡터 양자화를 이용하여 직접 코딩하게 되면 벡터 내 상관관계 (intra-frame correlation)를 모두 이용할 수 있으므로 rate-distortion 관점에서는 높은 효율을 기대할 수 있다. 하지만, 계산량과 메모리 요구량이 높아져서 실제 코딩 시스템에서는 사용할 수 없게 되므로, 차원을 나누어 압축하는 Split Vector Quantization (SVQ)이 이용된다. 또한, LSF 데이터는 과거 벡터와의 벡터 간 상관관계 (inter-frame correlation)가 높으므로, 이를 이용한 Predictive Split Vector Quantization (PSVQ)이 사용되고 있다. PSVQ는 SVQ 보다 높은 rate-distortion 성능을 보인다. 본 논문에서는 음성 저장 장치를 위한 최적의 PSVQ를 구현하기 위해서 다수의 과거 프레임 정보와의 벡터 간상관관계 (inter-frame correlation)를 고려한 Multi-Frame AR-model 기반 SVQ (MF-AR-SVQ)를 제안하였다. 기존 PSVQ와 비교해 보았을 때, MF-AR-SVQ는 계산량과 메모리 요구량의 큰 증가 없이, 평균 spectral distortion 관점에서 약 1비트의 성능 향상을 보였다.

스트랩다운 관성항법장치의 신호변환기 양자화 오차모델 (Quantization error model of signal converter in strapdown inertial navigation system)

  • 정태호;송기원
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1991년도 한국자동제어학술회의논문집(국내학술편); KOEX, Seoul; 22-24 Oct. 1991
    • /
    • pp.131-135
    • /
    • 1991
  • A quantization error model is suggested for analog to frequency(A/F) converter in strapdown inertial navigation system(SDINS),which is characterized by some white noise exciting the state variables. Also, effects on the performance of SDINS by analog to digital(A/D) converter and A/F converter are analyzed and compared via covariance simulation. As a result, A/F converter turns out to be superior to the A/D converter with respect to the induced navigation error and the difficulty in circuit realization. The quantization error model developed in this paper appears to be useful for optimal filter design.

  • PDF

CNN 모델의 최적 양자화를 위한 웹 서비스 플랫폼 (Web Service Platform for Optimal Quantization of CNN Models)

  • 노재원;임채민;조상영
    • 반도체디스플레이기술학회지
    • /
    • 제20권4호
    • /
    • pp.151-156
    • /
    • 2021
  • Low-end IoT devices do not have enough computation and memory resources for DNN learning and inference. Integer quantization of real-type neural network models can reduce model size, hardware computational burden, and power consumption. This paper describes the design and implementation of a web-based quantization platform for CNN deep learning accelerator chips. In the web service platform, we implemented visualization of the model through a convenient UI, analysis of each step of inference, and detailed editing of the model. Additionally, a data augmentation function and a management function of files that store models and inference intermediate results are provided. The implemented functions were verified using three YOLO models.

초소형 IoT 장치에 구현 가능한 딥러닝 양자화 기술 분석 (Analysis of Deep learning Quantization Technology for Micro-sized IoT devices)

  • 김영민;한경현;황성운
    • 사물인터넷융복합논문지
    • /
    • 제9권1호
    • /
    • pp.9-17
    • /
    • 2023
  • 많은 연산량을 가진 딥러닝은 초소형 IoT 장치나 모바일 장치에 구현하기가 어렵다. 최근에는 이러한 장치에서도 딥러닝을 구현할 수 있도록 모델의 연산량을 줄이는 딥러닝 경량화 기술이 소개되었다. 양자화는 연속적인 분포를 가지는 파라미터 값들을 고정된 비트의 이산 값으로 표현하여 모델의 메모리 및 크기 등을 줄여 효율적으로 사용할 수 있는 경량화 기법이다. 그러나 양자화로 인한 이산 값 표현으로 인해 모델의 정확도가 낮아지게 된다. 본 논문에서는 정확도를 개선할 수 있는 다양한 양자화 기술을 소개한다. 먼저 기존 양자화 기술 중 APoT와 EWGS를 선택하여 동일한 환경에서 실험을 통해 결과를 비교 분석하였다. 선택된 기술은 ResNet모델에서 CIFAR-10 또는 CIFAR-100 데이터 세트로 훈련되고 테스트 되었다. 실험 결과 분석을 통해 기존 양자화 기술의 문제점을 파악하고 향후 연구에 대한 방향성을 제시하였다.

비트율 제어를 위한 인트라 프레임 양자화 모델링 (Quantization Modeling of Intra Frame for Rate Control)

  • 박상현
    • 한국전자통신학회논문지
    • /
    • 제9권10호
    • /
    • pp.1207-1214
    • /
    • 2014
  • 비디오 코딩에서 GOP의 첫 번째 프레임은 많은 비트를 발생시키는 인트라 모드로 압축되고 다음 프레임의 인터 모드 압축에 사용되기 때문에 첫 프레임인 인트라 프레임의 압축 결과는 이후 프레임에도 영향을 주게 된다. 기존 알고리즘의 경우 인트라 프레임의 압축은 bpp 값에 따라 양자화 파라미터를 설정하여 압축하는데, 이때 bpp는 영상의 특성을 전혀 고려하지 않는다. 정확한 인트라 프레임 압축을 위해서는 bpp 뿐만 아니라 영상의 복잡도와 전송률을 함꼐 고려하여 양자화 파라미터를 결정하여야 한다. 본 논문에서는 GOP의 인코딩 특성에 대한 분석을 바탕으로 인트라 프레임 압축을 위한 양자화 파라미터를 계산에 필요한 실시간 양자화 모델링 방법을 제안한다. 실험 결과는 제안하는 모델이 인트라 프레임의 특성을 잘 반영하고 있으며 또한 실시간으로 모델 파라미터를 구하는 방법도 효과적으로 작동함을 보여준다.

비디오 인코더를 통한 딥러닝 모델의 정수 가중치 압축 (Compression of DNN Integer Weight using Video Encoder)

  • 김승환;류은석
    • 방송공학회논문지
    • /
    • 제26권6호
    • /
    • pp.778-789
    • /
    • 2021
  • 최근 다양한 분야에서 뛰어난 성능을 나타내는 Convolutional Neural Network(CNN)모델을 모바일 기기에서 사용하기 위한 다양한 연구가 진행되고 있다. 기존의 CNN 모델은 모바일 장비에서 사용하기에는 가중치의 크기가 크고 연산복잡도가 높다는 문제점이 있다. 이를 해결하기 위해 가중치의 표현 비트를 낮추는 가중치 양자화를 포함한 여러 경량화 방법들이 등장하였다. 많은 방법들이 다양한 모델에서 적은 정확도 손실과 높은 압축률을 나타냈지만, 대부분의 압축 모델들은 정확도 손실을 복구하기 위한 재학습 과정을 포함시켰다. 재학습 과정은 압축된 모델의 정확도 손실을 최소화하지만 많은 시간과 데이터를 필요로 하는 작업이다. Weight Quantization이후 각 층의 가중치는 정수형 행렬로 나타나는데 이는 이미지의 형태와 유사하다. 본 논문에서는 Weight Quantization이후 각 층의 정수 가중치 행렬을 이미지의 형태로 비디오 코덱을 사용하여 압축하는 방법을 제안한다. 제안하는 방법의 성능을 검증하기 위해 ImageNet과 Places365 데이터 셋으로 학습된 VGG16, Resnet50, Resnet18모델에 실험을 진행하였다. 그 결과 다양한 모델에서 2%이하의 정확도 손실과 높은 압축 효율을 달성했다. 또한, 재학습 과정을 제외한 압축방법인 No Fine-tuning Pruning(NFP)와 ThiNet과의 성능비교 결과 2배 이상의 압축효율이 있음을 검증했다.

Improved Channel Level Difference Quantization for Spatial Audio Coding

  • Kim, Kwang-Ki;Beack, Seung-Kwon;Seo, Jeong-Il;Jang, Dae-Young;Hahn, Min-Soo
    • ETRI Journal
    • /
    • 제29권1호
    • /
    • pp.99-102
    • /
    • 2007
  • The channel level difference (CLD) is a main parameter in the reference model 0 (RM0) for MPEG Surround. Nevertheless, the CLD quantization method in the RM0 has problems such as the lack of theoretical background and inappropriate quantization levels. In this letter, a new CLD quantization method is proposed based on the virtual source location information which has strength in the quantization process. From experimental results, it is confirmed that the proposed scheme greatly reduces the quantization distortions measured in dB and degrees without any additional complexity.

  • PDF

양자화 입력을 고려한 연속시간 T-S 퍼지 시스템을 위한 이벤트 트리거 모델예측제어 (Event-Triggered Model Predictive Control for Continuous T-S fuzzy Systems with Input Quantization)

  • 권우경;이상문
    • 전기학회논문지
    • /
    • 제66권9호
    • /
    • pp.1364-1372
    • /
    • 2017
  • In this paper, a problem of event-triggered model predictive control is investigated for continuous-time Takagi-Sugeno (T-S) fuzzy systems with input quantization. To efficiently utilize network resources, event-trigger is employed, which transmits limited signals satisfying the condition that the measurement of errors is over the ratio of a certain level. Considering sampling and quantization, continuous Takagi-Sugeno (T-S) fuzzy systems are regarded as a sector bounded continuous-time T-S fuzzy systems with input delay. Then, a model predictive controller (MPC) based on parallel distributed compensation (PDC) is designed to optimally stabilize the closed loop systems. The proposed MPC optimize the objective function over infinite horizon, which can be easily calculated and implemented solving linear matrix inequalities (LMIs) for every event-triggered time. The validity and effectiveness are shown that the event triggered MPC can stabilize well the systems with even smaller average sampling rate and limited actuator signal guaranteeing optimal performances through the numerical example.