• 제목/요약/키워드: quantization errors

검색결과 93건 처리시간 0.03초

높은 자기부상 정밀도를 갖는 자기베어링 제어기 개발 (Development of Magnetic Bearing Controller with High Magnetic Levitation Accuracy)

  • 이석원;허헌
    • 한국인터넷방송통신학회논문지
    • /
    • 제19권1호
    • /
    • pp.225-229
    • /
    • 2019
  • 자기베어링은 기계적인 마찰이 없고 안정적인 동역학 특성을 갖기 때문에 진공 및 청정 환경이나 고정도가 요구되는 분야에서 많이 활용되고 있다. 그러나 자기베어링은 다양한 장점에도 불구하고 일반적으로 제어기가 복잡해서 적용 범위의 확산이 제한적이다. 본 논문에서는 복잡도가 낮은 디지털 방식의 자기베어링 제어기를 제안하였다. 또한 디지털 제어기 성능열화의 주된 원인인 아날로그 신호를 디지털 신호로 변환하는 과정에서 발생하는 오류와 제어 알고리즘 구현상의 문제점들을 분석하고 해결하였다. 제안한 제어기를 실제 자기베어링에 적용한 실험을 통해 제어기가 자기부상 목표 정밀도를 갖는 것을 확인하였다.

위상이동 간섭무늬 투영을 이용한 3차원 형상측정 시스템의 위상계산오차 해석 (Phase calcuation error analysis of 3D shape measurement system using phase-shifted fringe projection method)

  • 류현미;김석성;홍석경;연규황
    • 한국광학회지
    • /
    • 제13권3호
    • /
    • pp.182-188
    • /
    • 2002
  • 위상이동 간섭무늬 투영 방법을 이용한 3차원 형상측정 시스템의 위상계산오차를 분석하였다. 본 연구에서 다룬 오차의 요소에는 물체 표면의 특성에 따라 검출기에 나타나는 양자화 크기의 변이 효과, 물체 표면에 맺히는 간섭무늬 패턴의 초점 어긋남 효과, 간섭무늬의 위상이동 오차에 의한 효과, 위상 이동된 간섭무늬 패턴이 투영된 여러 개의 물체 상을 받아들이는 도중에 시스템 및 주위 환경 변화에 의한 오차, 그리고 투영되는 격자 패턴의 왜곡에 의한 효과들을 계산하고 논의하였다.

Accurate Characterization of T/R Modules with Consideration of Amplitude/Phase Cross Effect in AESA Antenna Unit

  • Ahn, Chang-Soo;Chon, Sang-Mi;Kim, Seon-Joo;Kim, Young-Sik;Lee, Juseop
    • ETRI Journal
    • /
    • 제38권3호
    • /
    • pp.417-424
    • /
    • 2016
  • In this paper, an accurate characterization of a fabricated X-band transmit/receive module is described with the process of generating control data to correct amplitude and phase deviations in an active electronically scanned array antenna unit. In the characterization, quantization errors (from both a digitally controlled attenuator and a phase shifter) are considered using not theoretical values (due to discrete sets of amplitude and phase states) but measured values (of which implementation errors are a part). By using the presented procedure for the characterization, each initial control bit of both the attenuator and the phase shifter is closest to the required value for each array element position. In addition, each compensated control bit for the parasitic cross effect between amplitude and phase control is decided using the same procedure. Reduction of the peak sidelobe level of an array antenna is presented as an example to validate the proposed procedure.

고속 해상 객체 분류를 위한 양자화 적용 기반 CNN 딥러닝 모델 성능 비교 분석 (Comparative Analysis of CNN Deep Learning Model Performance Based on Quantification Application for High-Speed Marine Object Classification)

  • 이성주;이효찬;송현학;전호석;임태호
    • 인터넷정보학회논문지
    • /
    • 제22권2호
    • /
    • pp.59-68
    • /
    • 2021
  • 최근 급속도로 성장하고 있는 인공지능 기술이 자율운항선박과 같은 해상 환경에서도 적용되기 시작하면서 디지털 영상에 특화된 CNN 기반의 모델을 적용하는 관련 연구가 활발히 진행되고 있다. 이러한 해상 서비스의 경우 인적 과실을 줄이기 위해 충돌 위험이 있는 부유물을 감지하거나 선박 내부의 화재 등 여러 가지 기술이 접목되기에 실시간 처리가 매우 중요하다. 그러나 기능이 추가될수록 프로세서의 제품 가격이 증가하는 문제가 존재해 소형 선박의 선주들에게는 비용적인 측면에서 부담이 된다. 또한 대형 선박의 경우 자율운항선박의 시스템을 감안할 때, 연산 속도의 성능 향상을 위해 복잡도가 높은 딥러닝 모델의 성능을 개선하는 방법이 필요하다. 따라서 본 논문에서는 딥러닝 모델에 경량화 기법을 적용해 정확도를 유지하면서 고속으로 처리할 수 있는 방법에 대해 제안한다. 먼저 해상 부유물 검출에 적합한 영상 전처리를 진행하여 효율적으로 CNN 기반 신경망 모델 입력에 영상 데이터가 전달될 수 있도록 하였다. 또한, 신경망 모델의 알고리즘 경량화 기법 중 하나인 학습 후 파라미터 양자화 기법을 적용하여 모델의 메모리 용량을 줄이면서 추론 부분의 처리 속도를 증가시켰다. 양자화 기법이 적용된 모델을 저전력 임베디드 보드에 적용시켜 정확도와 처리 속도를 사용하는 임베디드 성능을 고려하여 설계하는 방법을 제안한다. 제안하는 방법 중 정확도 손실이 제일 최소화되는 모델을 활용해 저전력 임베디드 보드에 비교하여 기존보다 최대 4~5배 처리 속도를 개선할 수 있었다.

펄스열에서 1인 펄스수와 0인 펄스수의 비를 이용하여 확률연산을 하는 신경회로망 (A Neural Network Based on Stochastic Computation using the Ratio of the Number of Ones and Zeros in the Pulse Stream)

  • 민승재;채수익
    • 전자공학회논문지B
    • /
    • 제31B권7호
    • /
    • pp.211-218
    • /
    • 1994
  • Stochastic computation employs random pulse streams to represent numbers. In this paper, we study a new method to implement the number system which uses the ratio of the numbers of ones and zeros in the pulse streams. In this number system. if P is the probability that a pulse is one in a pulse stream then the number X represented by the pulse stream is defined as P/(1-P). We propose circuits to implement the basic operations such as addition multiplication and sigmoid function with this number system and examine the error characteristics of such operations in stochastic computation. We also propose a neuron model and derive a learning algorithm based on backpropagation for the 3-layered feedforward neural networks. We apply this learning algorithm to a digit recognition problem. To analyze the results, we discuss the errors due to the variance of the random pulse streams and the quantization noise of finite length register.

  • PDF

고정 압축률에서의 JPEG2000 코덱을 위한 최적의 데이터 형식 모델링 (The Modeling of the Optimal Data Format for JPEG2000 CODEC on the Fixed Compression Ratio)

  • 강창수;서춘원
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2005년도 추계종합학술대회
    • /
    • pp.1257-1260
    • /
    • 2005
  • This paper is related to optimization in the image data format, which can make a great effect in performance of data compression and is based on the wavelet transform and JPEG2000. This paper established a criterion to decide the data format to be used in wavelet transform, which is on the bases of the data errors in frequency transform and quantization. This criterion has been used to extract the optimal data format experimentally. The result were (1, 9) of 10-bit fixed-point format for filter coefficients and (9, 7) of 16-bit fixed-point data format for wavelet coefficients and their optimality was confirmed.

  • PDF

Design of Subband Codecs Using Optimized Vector Quantizer

  • Jee, Innho
    • The Journal of the Acoustical Society of Korea
    • /
    • 제15권2E호
    • /
    • pp.33-38
    • /
    • 1996
  • This paper provides an approach for representing an optimum vector quantizer by a scalar nonlinear gain-plus-additive noise model. The validity and accuracy of this analytic model is confirmed by comparing the calcuated model quantization errors with actual simulation of the optimum Linde-Buzo-Gray(LBG) vector quantizer. Using this model we frm MSE measure of an M-band filter bank codec in terms of the equivalent scalar quantizatin model and find the optimum FIR filter coefficients for each channel in the M-band structure for a given bit rate, given filter length, and given input signal correlation model. Specific design examples are worked out for 4-tap filters in the two-band paraunitary case. These theoretical results are confirmed by extensive Monte Carlo simulation.

  • PDF

무손실 음향부호화를 위한 정수 DCT실현기법 (An Integer DCT Algorithm for Lossless Audio Coding)

  • 신재호;박세형
    • 정보통신설비학회논문지
    • /
    • 제5권1호
    • /
    • pp.1-11
    • /
    • 2006
  • Lifting scheme based integer transforms provides very useful properties on the multimedia coding. An integer transform outputs the integer form when the input has integer value. This doesn't produce quantization errors on coding, so integer transforms are adequate to lossless coding, In this paper, we present an integer DCT algorithm which is able to transform audio signal with longer length. Also the proposed method can be easily implemented recursively even though input is long time. We present the method to overcome the poor approximation which is produced by recursive lifting step. And we have applied the proposed integer DCT to lossless audio coding.

  • PDF

DFT에 의한 비데오 코덱용 DCT의 단순한 시스톨릭 어레이 (A Simple Discrete Cosine Transform Systolic Array Based on DFT for Video Codec)

  • 박종오;이광재;양근호;박주용;이문호
    • 대한전자공학회논문지
    • /
    • 제26권11호
    • /
    • pp.1880-1885
    • /
    • 1989
  • In this paper, a new approach for systolic array realizing the discrete cosine transform (DCT) based on discrete Fourier transform (DFT) of an input sequence is presented. The proposed array is based on a simple modified DFT(MDFT) version of the Goertzel algorithm combined with Kung's approach and is proved perfectly. This array requires N cells, one multiplier and takes N clock cycles to produce a complete N-point DCT and also is able to process a continuous stream of data sequences. We have analyzed the output signal-to-noise ratio(SNR) and designed the circuit level layout of one-PE chip. The array coefficients are static adn thus stored-product ROM's can be used in place of multipliers to limit cost as eliminate errors due to coefficients quantization.

  • PDF

연속된 데이터를 위한 새로운 롬 압축 방식 (A New ROM Compression Method for Continuous Data)

  • 양병도;김이섭
    • 대한전자공학회논문지SD
    • /
    • 제40권5호
    • /
    • pp.354-360
    • /
    • 2003
  • 연속된 데이터를 위한 새로운 롬 압축 방식이 제한 되었다. 이 롬 압축 방식은 새롭게 제안된 두 롬 압축 알고리즘들을 기반으로 한다. 하나는 영역 선택 롬 압축 알고리즘이다. 이 방식은 크기와 주소로 여러 영역들로 나눈 후 데이터를 포함하는 영역들만을 선택적으로 저장하는 방식이다. 다른 하나는 양자화 롬과 오차 롬 압축 알고리즘이다. 이 방식은 양자화된 데이터와 양자화에 의한 오차를 나누어 저장하는 방식이다. 이 두 알고리즘을 사용하면 다양한 연속된 데이터들에 대하여 40∼60%의 롬 크기의 감소를 얻을 수 있다.