• 제목/요약/키워드: Neural network compression

검색결과 120건 처리시간 0.034초

심층혼합처리된 개량토의 일축압축강도 추정을 위한 인공신경망의 적용 (Application of Artificial Neural Network Theory for Evaluation of Unconfined Compression Strength of Deep Cement Mixing Treated Soil)

  • 김영상;정현철;허정원;정경환
    • 한국지반공학회:학술대회논문집
    • /
    • 한국지반공학회 2006년도 춘계 학술발표회 논문집
    • /
    • pp.1159-1164
    • /
    • 2006
  • In this paper an artificial neural network model is developed to estimate the unconfined compression strength of Deep Cement Mixing(DCM) treated soil. A database which consists of a number of unconfined compression test result compiled from 9 clay sites is used to train and test of the artificial neural network model. Developed neural network model requires water content of soil, unit weight of soil, passing percent of #200 sieve, weight of cement, w-c ratio as input variables. It is found that the developed artificial neural network model can predict more precise and reliable unconfined compression strength than the conventional empirical models.

  • PDF

임베디드 시스템에서의 객체 분류를 위한 인공 신경망 경량화 연구 (Neural Network Model Compression Algorithms for Image Classification in Embedded Systems)

  • 신희중;오현동
    • 로봇학회논문지
    • /
    • 제17권2호
    • /
    • pp.133-141
    • /
    • 2022
  • This paper introduces model compression algorithms which make a deep neural network smaller and faster for embedded systems. The model compression algorithms can be largely categorized into pruning, quantization and knowledge distillation. In this study, gradual pruning, quantization aware training, and knowledge distillation which learns the activation boundary in the hidden layer of the teacher neural network are integrated. As a large deep neural network is compressed and accelerated by these algorithms, embedded computing boards can run the deep neural network much faster with less memory usage while preserving the reasonable accuracy. To evaluate the performance of the compressed neural networks, we evaluate the size, latency and accuracy of the deep neural network, DenseNet201, for image classification with CIFAR-10 dataset on the NVIDIA Jetson Xavier.

신경회로망을 이용한 심전도 데이터 압축 알고리즘에 관한 연구 (A Study on ECG Oata Compression Algorithm Using Neural Network)

  • 김태국;이명호
    • 대한의용생체공학회:의공학회지
    • /
    • 제12권3호
    • /
    • pp.191-202
    • /
    • 1991
  • This paper describes ECG data compression algorithm using neural network. As a learning method, we use back error propagation algorithm. ECG data compression is performed using learning ability of neural network. CSE database, which is sampled 12bit digitized at 500samp1e/sec, is selected as a input signal. In order to reduce unit number of input layer, we modify sampling ratio 250samples/sec in QRS complex, 125samples/sec in P & T wave respectively. hs a input pattern of neural network, from 35 points backward to 45 points forward sample Points of R peak are used.

  • PDF

GPGPU를 활용한 인공신경망 예측기반 텍스트 압축기법 (Neural Predictive Coding for Text Compression Using GPGPU)

  • 김재주;한환수
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제22권3호
    • /
    • pp.127-132
    • /
    • 2016
  • 인공신경망을 압축에 적용하여 더 높은 압축 성능을 보이기 위한 알고리즘들이 몇 가지 연구되어 있다. 그러나 그동안 이러한 알고리즘들은 한정된 계산 능력의 하드웨어를 가지고 있기에 작은 크기의 신경망을 사용할 수밖에 없었으며 적용하는 대상 역시 실제로 사용하기에는 너무 작은 크기의 파일들이었다. 본 논문에서는 GPGPU의 계산능력을 신경망 학습에 이용하여 만든 텍스트 문맥 기반 문자 등장 확률 예측기와 함께 허프만 부호화의 성능을 높일 수 있는 변환 방법을 제시한다. 앞먹임 신경망과 GRU 회귀 신경망에 대해 실험을 수행하였으며, 회귀 신경망 모델은 앞먹임 신경망에 비해 뛰어난 예측 성공률과 압축률을 보였다.

Deep Compression의 프루닝 문턱값 동적 조정 (Dynamic Adjustment of the Pruning Threshold in Deep Compression)

  • 이여진;박한훈
    • 융합신호처리학회논문지
    • /
    • 제22권3호
    • /
    • pp.99-103
    • /
    • 2021
  • 최근 CNN(Convolutional Neural Network)이 다양한 컴퓨터 비전 분야에서 우수한 성능으로 널리 사용되고 있다. 그러나 CNN은 계산 집약적이고 많은 메모리가 요구되어 한정적인 하드웨어 자원을 가지는 모바일이나 IoT(Internet of Things) 기기에 적용하기 어렵다. 이런 한계를 해결하기 위해, 기존의 학습된 모델의 성능을 최대한 유지하며 네트워크의 크기를 줄이는 인공신경망 경량화 연구가 진행되고 있다. 본 논문은 신경망 압축 기술 중 하나인 프루닝(Pruning)의 문턱값을 동적으로 조정하는 CNN 압축 기법을 제안한다. 프루닝될 가중치를 결정하는 문턱값을 실험적, 경험적으로 정하는 기존의 기술과 달리 정확도의 저하를 방지하는 최적의 문턱값을 동적으로 찾을 수 있으며, 경량화된 신경망을 얻는 시간을 단축할 수 있다. 제안 기법의 성능 검증을 위해 MNIST 데이터 셋을 사용하여 LeNet을 훈련시켰으며, 정확도 손실 없이 약 1.3 ~ 3배의 시간을 단축하여 경량화된 LeNet을 얻을 수 있었다.

Color Image Vector Quantization Using Enhanced SOM Algorithm

  • Kim, Kwang-Baek
    • 한국멀티미디어학회논문지
    • /
    • 제7권12호
    • /
    • pp.1737-1744
    • /
    • 2004
  • In the compression methods widely used today, the image compression by VQ is the most popular and shows a good data compression ratio. Almost all the methods by VQ use the LBG algorithm that reads the entire image several times and moves code vectors into optimal position in each step. This complexity of algorithm requires considerable amount of time to execute. To overcome this time consuming constraint, we propose an enhanced self-organizing neural network for color images. VQ is an image coding technique that shows high data compression ratio. In this study, we improved the competitive learning method by employing three methods for the generation of codebook. The results demonstrated that compression ratio by the proposed method was improved to a greater degree compared to the SOM in neural networks.

  • PDF

A Comparative Analysis of Artificial Neural Network (ANN) Architectures for Box Compression Strength Estimation

  • By Juan Gu;Benjamin Frank;Euihark Lee
    • 한국포장학회지
    • /
    • 제29권3호
    • /
    • pp.163-174
    • /
    • 2023
  • Though box compression strength (BCS) is commonly used as a performance criterion for shipping containers, estimating BCS remains a challenge. In this study, artificial neural networks (ANN) are implemented as a new tool, with a focus on building up ANN architectures for BCS estimation. An Artificial Neural Network (ANN) model can be constructed by adjusting four modeling factors: hidden neuron numbers, epochs, number of modeling cycles, and number of data points. The four factors interact with each other to influence model accuracy and can be optimized by minimizing model's Mean Squared Error (MSE). Using both data from the literature and "synthetic" data based on the McKee equation, we find that model estimation accuracy remains limited due to the uncertainty in both the input parameters and the ANN process itself. The population size to build an ANN model has been identified based on different data sets. This study provides a methodology guide for future research exploring the applicability of ANN to address problems and answer questions in the corrugated industry.

신경망 기반 비디오 압축을 위한 레이턴트 정보의 방향 이동 및 보상 (Latent Shifting and Compensation for Learned Video Compression)

  • 김영웅;김동현;정세윤;최진수;김휘용
    • 방송공학회논문지
    • /
    • 제27권1호
    • /
    • pp.31-43
    • /
    • 2022
  • 전통적인 비디오 압축은 움직임 예측, 잔차 신호 변환 및 양자화를 통한 하이브리드 압축 방식을 기반으로 지금까지 발전해왔다. 최근 인공 신경망을 통한 기술이 빠르게 발전함에 따라, 인공 신경망 기반의 이미지 압축, 비디오 압축 연구 또한 빠르게 진행되고 있으며, 전통적인 비디오 압축 코덱의 성능과 비교해 높은 경쟁력을 보여주고 있다. 본 논문에서는 이러한 인공 신경망 기반 비디오 압축 모델의 성능을 향상시킬 수 있는 새로운 방법을 제시한다. 기본적으로는 기존 인공 신경망 기반 비디오 압축 모델들이 채택하고 있는 변환 및 복원 신경망과 엔트로피 모델(Entropy model)을 이용한 율-왜곡 최적화(Rate-distortion optimization) 방법을 사용하며, 인코더 측에서 디코더 측으로 압축된 레이턴트 정보(Latent information)를 전송할 때 엔트로피 모델이 추정하기 어려운 정보의 값을 이동시켜 전송할 비트량을 감소시키고, 손실된 정보를 추가로 전송함으로써 손실된 정보에 대한 왜곡을 보정한다. 이러한 방법을 통해 기존의 인공 신경망 기반 비디오 압축 기술인 MFVC(Motion Free Video Compression) 방법을 개선하였으며, 실험 결과를 통해 H.264를 기준으로 계산한 BDBR (Bjøntegaard Delta-Bitrate) 수치(%)로 MFVC(-14%) 보다 두 배 가까운 비트량 감축(-27%)이 가능함을 입증하였다. 제안된 방법은 MFVC 뿐 아니라, 레이턴트 정보와 엔트로피 모델을 사용하는 신경망 기반 이미지 또는 비디오 압축 기술에 광범위하게 적용할 수 있다는 장점이 있다.

잡음제거 합성곱 신경망을 이용한 이미지 복원방법 (Image Restoration Method using Denoising CNN)

  • 김선재;이정호;이석환;전동산
    • 한국멀티미디어학회논문지
    • /
    • 제25권1호
    • /
    • pp.29-38
    • /
    • 2022
  • Although image compression is one of the essential technologies to transmit image data on a variety of surveillance and mobile healthcare applications, it causes unnecessary compression artifacts such as blocking and ringing artifacts by the lossy compression in the limited network bandwidth. Recently, image restoration methods using convolutional neural network (CNN) show the significant improvement of image quality from the compressed images. In this paper, we propose Image Denoising Convolutional Neural Networks (IDCNN) to reduce the compression artifacts for the purpose of improving the performance of object classification. In order to evaluate the classification accuracy, we used the ImageNet test dataset consisting of 50,000 natural images and measured the classification performance in terms of Top-1 and Top-5 accuracy. Experimental results show that the proposed IDCNN can improve Top-1 and Top-5 accuracy as high as 2.46% and 2.42%, respectively.

영상압축을 위한 코넨네트워크 (KOHONEN NETWORK FOR ADAPTIVE IMAGE COMPRESSION)

  • 손형경;이영식;배철수
    • 한국정보통신학회:학술대회논문집
    • /
    • 한국해양정보통신학회 2001년도 추계종합학술대회
    • /
    • pp.571-574
    • /
    • 2001
  • 본 논문에서는 코호넨 네트워크를 이용한 효과적인 적응 코딩 방법을 제안한다. 신경망을 응용한 압축법 분석을 통해 설명되는 코딩방법은 압축률을 높이기 위해서 우선 영상을 8$\times$8 부영상으로 나누고, 나눠진 모든 부영상은 DCT로 변형한다. 이들 DCT 부블럭들은 코호넨 네트워크로 N(4) 등급으로 나누어지게 되고, 비트들은 DCT 부블럭의 변수에 따라 분류된다. 그래서 N(4)비트 할당 행렬을 얻었다. 실험 결과는 시뮬레이션으로 나타내었고, 제안한 방법이 신경네트워크에서의 AC 에너지에 의해 부영상을 분류하는 것보다 우수하다는 결론을 얻을 수 있었다.

  • PDF