• Journal of Intelligence and Information Systems
• /
• v.28 no.3
• /
• pp.45-55
• /
• 2022

Recently, large-scale language models (LPLM) have been shown state-of-the-art performances in various tasks of natural language processing including intent classification. However, fine-tuning LPLM requires much computational cost for training and inference which is not appropriate for dialog system. In this paper, we propose compressed intent classification model for multi-agent in low-resource like CPU. Our method consists of two stages. First, we trained sentence encoder from LPLM then compressed it through knowledge distillation. Second, we trained agent-specific adapter for intent classification. The results of three intent classification datasets show that our method achieved 98% of the accuracy of LPLM with only 21% size of it.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2009.11a
• /
• pp.667-668
• /
• 2009

IPTV 시스템에서 서비스 제공자는 제한수신시스템(CAS, Conditional Access System)을 통해 미디어 콘텐츠의 안전한 전송을 제공한다. Scramble Function의 Pseudo-random sequence 생성 초기화 단계에서 사용하는 CW(Control Word)를 허가된 사용자만 획득하게 함으로써 데이터를 보호한다. 적합한 사용자 측에서는 스마트카드를 통해 획득한 CW를 셋톱박스에 전송하고, 셋톱박스는 CW를 이용해 암호화된 데이터로부터 원본의 미디어 콘텐츠를 획득한다. 이 때, CW가 그대로 셋톱박스에게 전송되기 때문에 비인가된 사용자가 공격을 통해 CW를 획득할 수 있어서 암호화된 전송이 요구된다. 이본 논문에서는 스마트카드와 셋톱박스 사이의 암호화 통신을 위해 기존의 방법보다 경량화된 상호인증 및 키 동의 프로토콜을 제안한다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2010.11a
• /
• pp.550-552
• /
• 2010

최근 행위인식 기술은 u-헬스케어 분야를 통해서 실용화되는 단계에 이르고 있다. 실생활에 적용단계에 있는 행위인식 시스템은 기존의 서버 및 데스크톱 환경에서 벗어나 모바일 기기를 기반으로 수행되도록 변해가고 있다. 모바일 환경에 적합한 행위인식 시스템은 행위인식 센서 및 모바일 행위인식 기기의 저전력화와 모바일 기기에 적합한 행위인식 시스템이 요구된다. 본 논문은 모바일기기 기반의 스마트 환경에 알맞은 행위인식 시스템을 위해 행위인식 알고리즘 경량화 기법 연구를 수행한다. 행위별 최적의 낮은 주파수를 사용하여 센싱에 소요되는 자원을 줄인 경량화된 행위인식 방법을 제안하고 또한 주파수 변화에 따른 윈도우간 적절한 오버랩 구간 설정 방법과 윈도우에서의 특징 검출 시 오버랩 구간의 중복 연산을 제거한 경량화된 특징 검출 방법을 제안한다. 실험 결과는 행위 별 최적의 낮은 주파수를 사용하여 전력을 줄이면서도, 서로 다른 주파수의 데이터임에도 인식률은 그대로 유지됨을 보인다.

• Proceedings of the Korean Institute of Information and Commucation Sciences Conference
• /
• 2016.05a
• /
• pp.171-173
• /
• 2016

128-비트의 마스터 키를 지원하는 블록암호 AES-128을 IoT 보안에 적합하도록 경량화하여 구현하였다. 키 스케줄러와 라운드 블록을 8 비트 데이터 패스로 구현하고, 다양한 최적화 방법을 적용함으로써 하드웨어를 최소화시켰으며, 100 MHz 클록 주파수에서 4,400 GE의 작은 게이트로 구현되었다. Verilog HDL로 설계된 AES 크립토 코어를 Vertex5 XC5VSX50T FPGA 디바이스에 구현하여 올바로 동작함을 확인하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2023.11a
• /
• pp.900-901
• /
• 2023

본 연구는 TFLite 기반의 경량화 AI 모델을 활용하여 쓰레기의 자동 분리수거 시스템을 구축하는 방법을 제안한다. 제안된 시스템은 객체 인식 기술을 활용해 쓰레기를 정확하게 분류하며, 테스트 결과 평균 90.33%의 mAP 성능을 나타낸다. Label 수와 데이터셋의 한계가 존재하지만, 본 연구를 확장하고 개선함으로써 자동 분리수거의 효율성을 더욱 높일 수 있을 것으로 기대된다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.21 no.1
• /
• pp.115-122
• /
• 2017

Recently, the on-board equipments of vessels are getting diversifications with high technologies. With changing the trends, the shipboard network is turning to the light-weight ethernet architecture for integrated data management. For that necessity, this paper covers a development of the gateway system which gathers and processes the measured analog or NMEA data from loaded equipments to convert the messages based on IEC 61162-450 (standard for light-weight ethernet network of ships) in engine parts of small vessel. To do this, we analyzed the requirements for standardization of ship's equipments and related studies. To solve the problems of existing equipments, we defined the additional data formats (sentence formatter), developed the gateway system, and verified the utility of the developed system. Consequently, we established an interfacing framework for management and application of the generated data based on the ethernet in vessel.

• Annual Conference on Human and Language Technology
• /
• 2023.10a
• /
• pp.638-643
• /
• 2023

문서 기반 대화 시스템은 크게 질문으로부터 문서를 검색하는 과정과 응답 텍스트를 생성하는 과정으로 나뉜다. 이러한 대화 시스템의 응답 생성 과정에 디코더 기반 LLM을 사용하기 위해서 사전 학습된 LLM을 미세 조정한다면 많은 메모리, 연산 자원이 소모된다. 본 연구에서는 SVD에 기반한 LLM의 경량화를 시도한다. 사전 학습된 polyglot-ko 모델의 행렬을 SVD로 분해한 뒤, full-fine-tuning 해보고, LoRA를 붙여서 미세 조정 해본 뒤, 원본 모델을 미세 조정한 것과 점수를 비교하고, 정성평가를 수행하여 경량화된 모델의 응답 생성 성능을 평가한다. 문서 기반 대화를 위한 한국어 대화 데이터셋인 KoDoc2Dial에 대하여 평가한다.

• Proceedings of the Korean Society of Broadcast Engineers Conference
• /
• 2020.07a
• /
• pp.40-42
• /
• 2020

본 논문에서는 합성곱 기반의 얼굴 검출기 Dual Shot Face Detector (DSFD)에 대하여, 특징점 맵의 희소화와 채널 프루닝 목적 함수를 사용하여 네트웍 경량화를 수행하였다. 특징점 맵을 희소화하기 위해 L1 목적 함수를 사용했고, 특징점 맵의 채널 프루닝을 하기 위해 채널 최대값이 가장 낮은 채널들의 합을 최소화 시키는 목적함수를 적용했다. 기존의 신경망은 특징점 맵 희소화 비율이 45%였고 두 목적 함수를 적용했을 때 69.67% 로 희소화 비율이 높아진 것을 확인했다. 얼굴 검출 성능을 다양한 조명, 크기, 환경, 각도, 표정의 얼굴들을 포함하는 영상들로 이뤄진 Wider Face 데이터 셋으로 실험한 결과, average precision은 하락 했고 easy validation set에서 0.9257, hard validation set에서 0.8363 였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2024.05a
• /
• pp.617-618
• /
• 2024

본 논문에서 핵심적으로 연구할 내용은 기존 논문에서 소개된 BERT-base 모델의 경량화 버전인 DistilBERT 모델을 임베디드 시스템(Raspberry PI 5) 환경에 탑재 및 구현하는 것이다. 또한, 본 논문에서는 임베디드 시스템(Raspberry PI 5) 환경에 탑재한 DistilBERT 모델과 BERT-base 모델 간의 성능 비교를 수행하였다. 성능 평가에 사용한 데이터셋은 SQuAD(Standford Question Answering Dataset)로 질의응답 태스크에 대한 데이터셋이며, 성능 검증 지표로는 EM(Exact Match) Score와 F1 Score 그리고 추론시간을 사용하였다. 실험 결과를 통해 DistilBERT와 같은 경량화 모델이 임베디드 시스템(Raspberry PI 5)과 같은 환경에서 온 디바이스 AI(On-Device AI)로 잘 작동함을 증명하였다.

• The Journal of the Institute of Internet, Broadcasting and Communication
• /
• v.24 no.1
• /
• pp.1-8
• /
• 2024

On-device AI technology, which can operate AI models at the edge devices to support real-time processing and privacy enhancement, is attracting attention. As intelligent IoT is applied to various industries, services utilizing the on-device AI technology are increasing significantly. However, general deep learning models require a lot of computational resources for inference and learning. Therefore, various lightweighting methods such as quantization and pruning have been suggested to operate deep learning models in embedded edge devices. Among the lightweighting methods, we analyze how to lightweight and apply deep learning models to edge computing devices, focusing on pruning technology in this paper. In particular, we utilize dynamic and static pruning techniques to evaluate the inference speed, accuracy, and memory usage of a lightweight AI vision model. The content analyzed in this paper can be used for intelligent video control systems or video security systems in autonomous vehicles, where real-time processing are highly required. In addition, it is expected that the content can be used more effectively in various IoT services and industries.