• 한국정보통신학회논문지
• /
• 제25권11호
• /
• pp.1627-1634
• /
• 2021

본 논문은 저전력 뉴럴 네트워크 가속기 SOC를 위한 아날로그 Convolution Filter용 저전력 초소형 ADC 회로 및 칩 설계 기술을 소개한다. 대부분의 딥러닝의 학습과 추론을 할 수 있는 Convolution neural network accelerator는 디지털회로로 구현되고 있다. 이들은 수많은 곱셈기 및 덧셈기를 병렬 구조로 구현하며, 기존의 복잡한 곱셉기와 덧셈기의 디지털 구현 방식은 높은 전력소모와 큰 면적을 요구하는 문제점을 가지고 있다. 이 한계점을 극복하고자 본 연구는 디지털 Convolution filter circuit을 Analog multiplier와 Accumulator, ADC로 구성된 Analog Convolution Filter로 대체한다. 본 논문에서는 최소의 칩면적와 전력소모로 Analog Accumulator의 아날로그 결과 신호를 디지털 Feature 데이터로 변환하는 8-bit SAR ADC를 제안한다. 제안하는 ADC는 Capacitor Array의 모든 Capacitor branch에 Split capacitor를 삽입하여 모든 branch의 Capacitor 크기가 균등하게 Unit capacitor가 되도록 설계하여 칩면적을 최소화 한다. 또한 초소형 unit capacitor의 Voltage-dependent capacitance variation 문제점을 제거하기 Flipped Dual-Capacitor 회로를 제안한다. 제안하는 ADC를 TSMC CMOS 65nm 공정을 이용하여 설계하였으며, 전체 chip size는 1355.7㎛², Power consumption은 2.6㎼, SNDR은 44.19dB, ENOB는 7.04bit의 성능을 달성하였다.

• 한국멀티미디어학회논문지
• /
• 제21권12호
• /
• pp.1467-1472
• /
• 2018

For the problem that the face image of surveillance video cannot be accurately identified due to the low resolution, this paper proposes a low resolution face recognition solution based on convolutional neural network model. Convolutional Neural Networks (CNN) model for multi-scale input The CNN model for multi-scale input is an improvement over the existing "two-step method" in which low-resolution images are up-sampled using a simple bi-cubic interpolation method. Then, the up sampled image and the high-resolution image are mixed as a model training sample. The CNN model learns the common feature space of the high- and low-resolution images, and then measures the feature similarity through the cosine distance. Finally, the recognition result is given. The experiments on the CMU PIE and Extended Yale B datasets show that the accuracy of the model is better than other comparison methods. Compared with the CMDA_BGE algorithm with the highest recognition rate, the accuracy rate is 2.5%~9.9%.

• 전자통신동향분석
• /
• 제37권1호
• /
• pp.53-62
• /
• 2022

With increasing size of transformer-based neural networks, a light-weight algorithm and efficient AI accelerator has been developed to train these huge networks in practical design time. In this article, we present a survey of state-of-the-art research on the low-precision computational algorithms especially for floating-point formats and their hardware accelerator. We describe the trends by focusing on the work of two leading research groups-IBM and Seoul National University-which have deep knowledge in both AI algorithm and hardware architecture. For the low-precision algorithm, we summarize two efficient floating-point formats (hybrid FP8 and radix-4 FP4) with accuracy-preserving algorithms for training on the main research stream. Moreover, we describe the AI processor architecture supporting the low-bit mixed precision computing unit including the integer engine.

• 한국측량학회지
• /
• 제20권1호
• /
• pp.21-31
• /
• 2002

이 연구는 원격탐사 영상의 분류정확도를 향상시키기 위한 방법으로써 신경망 이론과 퍼지집합이론을 각각 적용하였다. 원격탐사 영상은 토지피복도, 식생도, 지질도 등 주제도를 만드는데 많이 이용되고 있다. 원격탐사 영상의 감독분류에 대한 정확도는 트레이닝 지역의 선정, 분류항목의 할당 문제로 인해 많은 차이를 보인다. 일반적인 영상 분류법은 영상 내의 모든 영상소가 균질하다고 가정한다. 그러나, 이러한 가정은 영상내의 수많은 혼합 영상소를 분류해내는 데에는 적합하지 않다. 이러한 문제를 극복하기 위해 퍼지 집합이론을 적용하였으며, 퍼지 집합이론의 멤버쉽을 이용하였다. 퍼지 집합이론은 하나의 영상소를 멤버쉽의 정도에 따라 여러 가지 항목으로 분류할 수 있는 장점이 있다. 그러나, 퍼지분류법과 통계학적인 분류법은 화소값의 분포가 비정규적일 때 좋지 않은 분류 결과를 나타내며 처리 시간이 늦고 많은 컴퓨팅 비용이 드는 단점이 있다. 그 대안적인 방법으로서 신경망분류법을 들 수 있는데, 신경망 분류법은 비모수적 분류법으로서 일반적인 분류기법보다 좀 더 좋은 결과를 나타내고 있고, 한번 트레이닝 되면 빠르게 데이터를 분류할 수 있다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2018년도 추계학술발표대회
• /
• pp.686-689
• /
• 2018

3D 손 포즈 추정(Hand Pose Estimation, HPE)은 스마트 인간 컴퓨터 인터페이스를 위해서 중요한 기술이다. 이 연구에서는 딥러닝 방법을 기반으로 하여 단일 RGB-Depth 카메라로 촬영한 양손의 3D 손 자세를 실시간으로 인식하는 손 포즈 추정 시스템을 제시한다. 손 포즈 추정 시스템은 4단계로 구성된다. 첫째, Skin Detection 및 Depth cutting 알고리즘을 사용하여 양손을 RGB와 깊이 영상에서 감지하고 추출한다. 둘째, Convolutional Neural Network(CNN) Classifier는 오른손과 왼손을 구별하는데 사용된다. CNN Classifier 는 3개의 convolution layer와 2개의 Fully-Connected Layer로 구성되어 있으며, 추출된 깊이 영상을 입력으로 사용한다. 셋째, 학습된 CNN regressor는 추출된 왼쪽 및 오른쪽 손의 깊이 영상에서 손 관절을 추정하기 위해 다수의 Convolutional Layers, Pooling Layers, Fully Connected Layers로 구성된다. CNN classifier와 regressor는 22,000개 깊이 영상 데이터셋으로 학습된다. 마지막으로, 각 손의 3D 손 자세는 추정된 손 관절 정보로부터 재구성된다. 테스트 결과, CNN classifier는 오른쪽 손과 왼쪽 손을 96.9%의 정확도로 구별할 수 있으며, CNN regressor는 형균 8.48mm의 오차 범위로 3D 손 관절 정보를 추정할 수 있다. 본 연구에서 제안하는 손 포즈 추정 시스템은 가상 현실(virtual reality, VR), 증강 현실(Augmented Reality, AR) 및 융합 현실 (Mixed Reality, MR) 응용 프로그램을 포함한 다양한 응용 분야에서 사용할 수 있다.

• ETRI Journal
• /
• 제43권1호
• /
• pp.40-52
• /
• 2021

DNS (Domain Name System) tunnels almost obscure the true network activities of users, which makes it challenging for the gateway or censorship equipment to identify malicious or unpermitted network behaviors. An efficient way to address this problem is to conduct a temporal-spatial analysis on the tunnel traffic. Nevertheless, current studies on this topic limit the DNS tunnel to those with a single protocol, whereas more than one protocol may be used simultaneously. In this paper, we concentrate on the refined identification of two protocols mixed in a DNS tunnel. A feature set is first derived from DNS query and response flows, which is incorporated with deep neural networks to construct a regression model. We benchmark the proposed method with captured DNS tunnel traffic, the experimental results show that the proposed scheme can achieve identification accuracy of more than 90%. To the best of our knowledge, the proposed scheme is the first to estimate the ratios of two mixed protocols in DNS tunnels.

• 전자공학회논문지 IE
• /
• 제44권3호
• /
• pp.12-22
• /
• 2007

본 논문에서는 잉여수체계(Residue Number System)를 이용하여 고속의 디지털 신경회로망을 제안하고 이를 구현하기 위한 중요연산부인 고속의 디지털 뉴런프로세서를 설계하였다. 설계된 디지털 뉴런프로세서는 잉여수계를 이용한 MAC 연산기와 혼합계수 변환을 이용한 시그모이드 함수 연산 부로 구성되며, 설계된 회로는 VHDL로 기술하였고 Compass 툴로 합성하였다. 실험결과, 본 논문에서 설계한 디지털 뉴런프로세서는 19.2nsec의 속도를 보였으며, 실수연산기로 설계한 뉴런프로세서에 비하여 약 50%정도 하드웨어 크기를 줄일 수 있었다. 본 논문에서 설계한 뉴런프로세서는 실시간 처리를 요하는 병렬분산처리 시스템에 적용될 수 있을 것으로 기대된다.

• Computers and Concrete
• /
• 제16권3호
• /
• pp.343-356
• /
• 2015

1078 sets of mixtures in total that include fly ash, slag, and/or silica fume have been collected for prediction on concrete properties. A new database platform (Compos) has been developed, by which the stepwise multiple linear regression (SMLR) and BP artificial neural networks (BP ANNs) programs have been applied respectively to identify correlations between the concrete properties (strength, workability, and durability) and the dosage and/or quality of raw materials'. The results showed obvious nonlinear relations so that forecasting by using nonlinear method has clearly higher accuracy than using linear method. The forecasting accuracy rises along with the increasing of age and the prediction on cubic compressive strength have the best results, because the minimum average relative error (MARE) for 60-day cubic compressive strength was less than 8%. The precision for forecasting of concrete workability takes the second place in which the MARE is less than 15%. Forecasting on concrete durability has the lowest accuracy as its MARE has even reached 30%. These conclusions have been certified in a ready-mixed concrete plant that the synthesized MARE of 7-day/28-day strength and initial slump is less than 8%. The parameters of BP ANNs and its conformation have been discussed as well in this study.

• 한국정보통신학회논문지
• /
• 제9권7호
• /
• pp.1607-1615
• /
• 2005

본 논문은 MLP (multilayer perceptrons) 신경망을 이용하여 필기체 妾자와 비숫자를 인식하거나 기각할 경우의 MLP 구현 방법에 관한 것이다. MLP는 인식률 및 속도, 메모리 요구량 등에 있어서 필기체 숫자인식에 매우 효율적인 인식기로 알려져 있다. 그러나 기존 연구에서의 MLP는 숫자 입력에 대해서의 인식에만 초점이 맞춰져 있으며 비숫자 입력 경우의 인식률, 기각률 및 동작 특성에 대해서는 연구된 바가 거의 없다. 본 논문에서는 숫자와 비숫자가 혼재하는 경우의 MLP 인식기의 구현방법에 대해서 논한다. MLP 인식기는 세 가지 방법으로 구현되며, 세 가지의 오류유형을 정의하여 각 인식 방법의 인식 특성을 분석하였다. 인식 실험은 66,705자의 필기체 숫자와 비숫자를 이용하여 이루어지며, 세가지 오류유형의 측면에서 숫자와 비숫자에 대한 가장 적절한 인식 방법이 논의된다.

• 전기학회논문지
• /
• 제63권5호
• /
• pp.676-682
• /
• 2014

In this paper, precipitation echo(PRE) and non-precipitaion echo(N-PRE)(including ground echo and clear echo) through weather radar data are identified with the aid of neuro-fuzzy algorithm. The accuracy of the radar information is lowered because meteorological radar data is mixed with the PRE and N-PRE. So this problem is resolved by using RBFNN and judgement module. Structure expression of weather radar data are analyzed in order to classify PRE and N-PRE. Input variables such as Standard deviation of reflectivity(SDZ), Vertical gradient of reflectivity(VGZ), Spin change(SPN), Frequency(FR), cumulation reflectivity during 1 hour(1hDZ), and cumulation reflectivity during 2 hour(2hDZ) are made by using weather radar data and then each characteristic of input variable is analyzed. Input data is built up from the selected input variables among these input variables, which have a critical effect on the classification between PRE and N-PRE. Echo judgment module is developed to do echo classification between PRE and N-PRE by using testing dataset. Polynomial-based radial basis function neural networks(RBFNNs) are used as neuro-fuzzy algorithm, and the proposed neuro-fuzzy echo pattern classifier is designed by combining RBFNN with echo judgement module. Finally, the results of the proposed classifier are compared with both CZ and DZ, as well as QC data, and analyzed from the view point of output performance.