• 대한임베디드공학회논문지
• /
• 제18권3호
• /
• pp.89-100
• /
• 2023

Recently, on-device artificial intelligence (AI) solutions using mobile devices and embedded edge devices have emerged in various fields, such as computer vision, to address network traffic burdens, low-energy operations, and security problems. Although vision transformer deep learning models have outperformed conventional convolutional neural network (CNN) models in computer vision, they require more computations and parameters than CNN models. Thus, they are not directly applicable to embedded edge devices with limited hardware resources. Many researchers have proposed various model compression methods or lightweight architectures for vision transformers; however, there are only a few studies evaluating the effects of model compression techniques of vision transformers on performance. Regarding this problem, this paper presents a performance evaluation of vision transformers on embedded platforms. We investigated the behaviors of three vision transformers: DeiT, LeViT, and MobileViT. Each model performance was evaluated by accuracy and inference time on edge devices using the ImageNet dataset. We assessed the effects of the quantization method applied to the models on latency enhancement and accuracy degradation by profiling the proportion of response time occupied by major operations. In addition, we evaluated the performance of each model on GPU and EdgeTPU-based edge devices. In our experimental results, LeViT showed the best performance in CPU-based edge devices, and DeiT-small showed the highest performance improvement in GPU-based edge devices. In addition, only MobileViT models showed performance improvement on EdgeTPU. Summarizing the analysis results through profiling, the degree of performance improvement of each vision transformer model was highly dependent on the proportion of parts that could be optimized in the target edge device. In summary, to apply vision transformers to on-device AI solutions, either proper operation composition and optimizations specific to target edge devices must be considered.

• 한국정보통신학회논문지
• /
• 제25권12호
• /
• pp.1784-1789
• /
• 2021

한국어 감성 분류 작업은 챗봇, 사용자의 물건 구매 평 분석 등 실 서비스에서 사용되고 있으며, 현재 딥러닝 기술의 발달로 높은 성능을 가진 신경망 모델을 활발히 사용하여 감성 분류 작업을 수행하고 있다. 하지만 신경망 모델은 입력 문장이 어떤 단어들로 인해 결과가 예측되었는지 해석하는 것이 쉽지 않으며, 최근 신경망 모델의 해석을 위한 모델 해석 방법들이 활발히 제안되어지고 있다. 본 논문에서는 모델 해석 방법 중 LIME 알고리즘을 이용하여 한국어 감성 분류 데이터 셋으로 학습된 모델들의 입력 문장 내 단어들 중 어떤 단어가 결과에 영향을 미쳤는지 해석하고자 한다. 그 결과, 85.23%의 성능을 보인 양방향 순환 신경망 모델의 해석 결과, 총 25,283개의 긍정, 부정 단어를 포함했지만, 상대적으로 낮은 성능을 보인 84.20%의 Transformer 모델의 해석 결과, 총 26,447개의 긍정, 부정 단어가 포함되어 있어 양방향 순환 신경망 모델보다 Transformer 모델이 신뢰할 수 있는 모델임을 확인할 수 있었다.

• Journal of Electrical Engineering and Technology
• /
• 제11권1호
• /
• pp.257-264
• /
• 2016

In this paper, new electric railway feeding system which has active transformer is modeled for evaluating the steady state analysis using PSCAD/EMTDC. Equivalent models including power supply, feeder, train and transformers are proposed for simplifying the model of the feeding system in high speed electric railway. In case study, simulation results applied to proposed model are compared with the conventional and new systems through the catenary voltage, three-phase voltage of PCC (Point of Common Coupling) and the efficiency of regenerative braking energy.

• 조명전기설비학회논문지
• /
• 제17권1호
• /
• pp.54-60
• /
• 2003

3상 전력계통에 단상 대용량의 전철부하가 접속되면 3상 전류가 불평형하게 되어 역상 전류가 흐르게 된다. 이 역상전류는 전원 측 발전기의 회전자 표면에 과전류를 발생시키며, 급전계통 및 관련 설비에 나쁜 영향을 끼치게 된다. 현재 교류 전기철도에서는 불평형 경감을 위하여 Scott결선 변압기를 채용하고 있으나 2차 극의 서로 다른 단상부하 크기 및 위상을 동일하게 일치시킬 수는 없고, 회생부하 전기차 도입과 인관 변전소 사고로 인한 연장급진도 고려해야 되기 때문에 역상전류 보상기가 필요하다. 본 논문은 기존의 전류불평형 해석방법인 정적모델 평가기법 대신에 열차운행스케줄에 따른 동적 특성을 이용한 새로운 전류불평형 평가기법을 유도하였으며, 이를 통해 부하 측의 불평형에 의해 발생하는 역상전류를 흡수하기 위한 보상기를 제안하고 실 계통에 가까운 전류불평형 문제를 분석하였다.

• 전기전자학회논문지
• /
• 제28권1호
• /
• pp.53-64
• /
• 2024

자연어 처리 모델이 발전함에 따라 챗 GPT와 같은 대화형 언어 생성 AI 모델이 널리 사용되고 있다. 따라서 자연어 처리 최신 모델의 기반이 되는 트랜스포머 알고리즘을 하드웨어로 구현하여 연산 속도와 전력 소비량을 개선하는 것은 중요하다고 할 수 있다. 특히, 행렬 곱셈을 통해 문장에서 서로 다른 단어 간의 관계를 분석하는 멀티 헤드 어텐션과 피드 포워드 네트워크는 트랜스포머에서 연산량이 가장 큰 핵심적인 알고리즘이다. 본 논문에서는 기존의 시스톨릭 어레이를 변형하여 행렬 곱 연산 속도를 개선하고, 입력 단어 개수 변동에 따라 지연시간도 변동되는 유동적인 구조를 제안한다. 또한, 트랜스포머 알고리즘의 정확도를 유지하는 형태로 양자화를 하여 메모리 효율성과 연산 속도를 높였다. 본 논문은 평가를 위해 멀티헤드어텐션과 피드포워드 네트워크에서 소요되는 클럭사이클을 검증하고 다른 곱셈기와 성능을 비교하였다.

• 정보처리학회 논문지
• /
• 제13권3호
• /
• pp.140-147
• /
• 2024

한국에서 청각장애인은 지체장애인에 이어 두 번째로 많은 등록 장애인 그룹이다. 하지만 수어 기계 번역은 시장 성장성이 작고, 엄밀하게 주석처리가 된 데이터 세트가 부족해 발전 속도가 더디다. 한편, 최근 컴퓨터 비전과 패턴 인식 분야에서 트랜스포머를 사용한 모델이 많이 제안되고 있는데, 트랜스포머를 이용한 모델은 동작 인식, 비디오 분류 등의 분야에서 높은 성능을 보여오고 있다. 이에 따라 수어 기계 번역 분야에서도 트랜스포머를 도입하여 성능을 개선하려는 시도들이 제안되고 있다. 본 논문에서는 수어 번역을 위한 인식 부분을 트랜스포머와 3D-CNN을 융합한 3D-CvT를 제안한다. 또, PHOENIX-Wether-2014T [1]를 이용한 실험을 통해 제안 모델은 기존 모델보다 적은 연산량으로도 비슷한 번역 성능을 보이는 효율적인 모델임을 실험적으로 증명하였다.

• 한국컴퓨터정보학회논문지
• /
• 제28권7호
• /
• pp.11-18
• /
• 2023

본 논문에서는 딥러닝 시계열 예측 모형을 평가한다. 최근 연구에 따르면 이 모형은 ARIMA와 같은 기존 예측 모형보다 성능이 우수하다고 결론짓는다. 그 중 히든 레이어에 이전 정보를 저장하는 순환 신경망이 이를 위한 예측 모형 중 하나이다. 네트워크의 그래디언트 소실 문제를 해결하기 위해 LSTM은 데이터 흐름의 반대 방향으로 숨겨진 레이어가 추가되는 BI-LSTM과 함께 순환 신경망 내부의 작은 메모리로 사용된다. 본 논문은 서울의 2018년 1월 1일부터 2022년도 1월 1일까지의 NO2 자료에 대해 Informer의 성능을 LSTM, BI-LSTM, Transformer와 비교하였다. 이에 실제 값과 예측값 사이의 평균 제곱근 오차와 평균 절대 오차를 구하였다. 그 결과 Test 데이터(2021.09.01.~2022.01.01.)에 대해 Informer는 다른 방법에 비해 가장 높은 예측 정확도 (가장 낮은 예측 오차: 평균 제곱근 오차: 0.0167, 평균 절대 오차: 0.0138)를 보여 타 방법에 비해 그 우수성을 입증하였다. Informer는 당초 취지와 부합되게 다른 방법들이 갖고 있는 장기 시계열 예측에 있어서의 문제점을 개선하는 결과를 나타내고 있다.

• 한국전기전자재료학회:학술대회논문집
• /
• 한국전기전자재료학회 2004년도 하계학술대회 논문집 Vol.5 No.1
• /
• pp.433-436
• /
• 2004

In this paper, we studied on the electrical safety evaluations of transformer insulation cover. In order to take preventive measures against an electric shock disaster in 22.9kV transformer installation, we put the insulation cover on a transformer charging parts. It needs to be designed so that the insulation covers have superior properties such as, arc-resistance, weather-resistance and heat-resistance, because they are used until the damage and destruction occur. To establish the protection cover to reduce the electrical shock, we analyzed damage mechanism and risk factors which happened by structural fault of an insulation cover in this paper. Also, based on the experimental results, we are planing to suggest new improved insulation cover models.

• 조명전기설비학회논문지
• /
• 제29권8호
• /
• pp.83-89
• /
• 2015

This study suggests the methodology to decide the number and adequate capacity of substation transformer in a large-scale offshore wind farm (OWF). The recent trend in transformer capacity of offshore substation is analyzed in many European offshore wind farm sites prior to entering the studies. In order to carry out the economic evaluation for the transformer capacity we present the cost models which consist of investment, operation, and expected energy not supplied (EENS) cost as well as the probabilistic wind power model of wind energy that combines the wind speed with wind turbine output characteristics for a exact calculation of energy loss cost. Economic assessment includes sensitivity analysis of parameters which could impact the 400-MW OWF: average wind speed, availability, discount rate, energy cost, and life-cycle.

• Korean Journal of Radiology
• /
• 제25권1호
• /
• pp.113-115
• /
• 2024