• Annual Conference on Human and Language Technology
• /
• 한국정보과학회언어공학연구회 2021년도 제33회 한글 및 한국어 정보처리 학술대회
• /
• pp.419-422
• /
• 2021

본 논문은 한국어와 영어 코퍼스 93GB를 활용하여 구축한 대형 사전학습기반 언어모델인 KE-T5를 소개한다. KE-T5는 한국어와 영어 어휘 64,000개를 포함하는 대규모의 언어모델로 다양한 한국어처리와 한국어와 영어를 모두 포함하는 번역 등의 복합언어 태스크에서도 높은 성능을 기대할 수 있다. KE-T5의 활용은 대규모의 언어모델을 기반으로 영어 수준의 복잡한 언어처리 태스크에 대한 연구들을 본격적으로 시작할 수 있는 기반을 마련하였다.

• Annual Conference on Human and Language Technology
• /
• 한국정보과학회언어공학연구회 2023년도 제35회 한글 및 한국어 정보처리 학술대회
• /
• pp.468-473
• /
• 2023

본 논문은 사전 학습 언어 모델의 특성인 이방성과 문맥화에 주목하여 이에 대한 분석 실험과 한국어 언어 모델만의 새로운 관점을 제안한다. 최근 진행된 영어 언어 모델 분석 연구에서 영감을 받아, 한국어 언어 모델에서도 대조학습을 통한 이방성과 문맥화의 변화를 보고하였으며, 다양한 모델에 대하여 토큰들을 문맥화 정도에 따라 분류하였다. 또한, 한국어의 언어학적 특성을 고려하여, 허위 문맥화를 완화할 수 있는 토큰을 문맥 중심어로, 문맥 중심어의 임베딩을 모방하는 토큰을 문맥 기능어로 분류하는 기준을 제안하였다. 간단한 적대적 데이터 증강 실험을 통하여 제안하는 분류 기준의 가능성을 확인하였으며, 본 논문이 향후 평가 벤치마크 및 데이터셋 제작, 나아가 한국어를 위한 강건한 학습 방법론에 기여하길 바란다.

• Journal of the Korea Convergence Society
• /
• 제13권3호
• /
• pp.67-75
• /
• 2022

Medical information is variously generated not only from medical devices but also from electronic devices. Recently, related convergence technologies from big data collection in healthcare to medical AI products for patient's condition analysis are rapidly increasing. However, there are difficulties in applying them because of independent developmental procedures. In this paper, we propose an intelligent hospital information system (iHIS) model to simplify and integrate research, development and application of medical AI technology. The proposed model includes (1) real-time patient data management, (2) specialized data management for medical AI development, and (3) real-time monitoring for patient. Using this, real-time biometric data collection and medical AI specialized data generation from patient monitoring devices, as well as specific AI applications of camera-based patient gait analysis and brain MRA-based cerebrovascular disease analysis will be introduced. Based on the proposed model, it is expected that it will be used to improve the HIS by increasing security of data management and improving practical use through consistent interface platformization.

• The Journal of the Korea Contents Association
• /
• 제19권1호
• /
• pp.108-116
• /
• 2019

In this paper, we propose a method to apply artificial intelligence technology efficiently to integrated security control technology. In other words, by applying machine learning learning to artificial intelligence based on big data collected in integrated security control system, cyber attacks are detected and appropriately responded. As technology develops, many large capacity Is limited to analyzing individual logs. The analysis method should also be applied to the integrated security control more quickly because it needs to correlate the logs of various heterogeneous security devices rather than one log. We have newly proposed an integrated security service model based on artificial intelligence, which analyzes and responds to these behaviors gradually evolves and matures through effective learning methods. We sought a solution to the key problems expected in the proposed model. And we developed a learning method based on normal behavior based learning model to strengthen the response ability against unidentified abnormal behavior threat. In addition, future research directions for security management that can efficiently support analysis and correspondence of security personnel through proposed security service model are suggested.

• Review of KIISC
• /
• 제30권6호
• /
• pp.107-115
• /
• 2020

다양한 응용분야에서 심층신경망 기반의 학습 모델이 앞 다투어 이용됨에 따라 인공지능의 설명 가능한 동작 원리 해석과, 추론이 갖는 불확실성에 관한 분석 또한 심도 있게 연구되고 있다. 이에 심층신경망 기반 기계학습 모델의 취약성이 수면 위로 드러났으며, 이러한 취약성을 이용하여 악의적으로 모델을 공격함으로써 오동작을 유도하고자 하는 시도가 다방면으로 이루어짐에 의해 학습 모델의 강건함 보장은 보안 분야에서의 쟁점으로 부각되고 있다. 모델 추론의 입력으로 이용되는 이미지에 교란값을 추가함으로써 심층신경망의 오분류를 발생시키는 임의의 변형된 이미지를 적대적 사례라 정의하며, 본 논문에서는 최근 인공지능 및 컴퓨터비전 분야에서 이루어지고 있는 이미지 기반 적대적 사례의 생성 기법에 대하여 논한다.

• Annual Conference on Human and Language Technology
• /
• 한국정보과학회언어공학연구회 2022년도 제34회 한글 및 한국어 정보처리 학술대회
• /
• pp.82-87
• /
• 2022

대화 모델은 대표적으로 검색 모델 또는 생성 모델을 기반으로 구현된다. 최근에는 두 모델의 장점은 융합하고 단점은 보완하기 위해 검색 기법과 생성 기법을 결합하는 연구가 활발히 이루어지고 있다. 그러나 생성 모델이 검색된 응답을 전혀 반영하지 않고 응답을 생성하여 검색 모델을 간과하는 문제 또는 검색된 응답을 그대로 복사해 생성하여 검색 모델에 과의존하는 문제가 발생한다. 본 논문에서는 이러한 문제들을 완화하며 검색 모델과 생성 모델을 모두 조화롭게 활용할 수 있는 대화 모델을 제안한다. 생성 모델이 검색 모델을 간과하는 문제를 완화하기 위해 학습 시 골드 응답을 검색된 응답과 함께 사용한다. 또한, 검색 모델에 과의존하는 문제를 완화하기 위해 검색된 응답들의 내용어 일부를 마스킹하고 순서를 무작위로 섞어 노이징한다. 검색된 응답은 대화 컨텍스트와의 관련성이 높은 것만을 선별하여 생성에 활용한다. 정량 평가 및 정성 평가를 통해 제안한 방법의 성능 향상 효과를 확인하였다.

• Journal of Platform Technology
• /
• 제10권1호
• /
• pp.20-28
• /
• 2022

Artificial intelligence-based health data verification has become an essential element not only to help clinical research, but also to develop new treatments. Since the US Food and Drug Administration (FDA) approved the marketing of medical devices that detect mild abnormal diabetic retinopathy in adult diabetic patients using artificial intelligence in the field of medical diagnosis, tests using artificial intelligence have been increasing. In this study, an artificial intelligence model based on image classification was created using a Teachable Machine supported by Google, and a predictive model was completed through learning. This not only facilitates the early detection of cataracts among eye diseases occurring among patients with chronic diseases, but also serves as basic research for developing a digital personal health healthcare app for eye disease prevention as a healthcare program for eye health.

• Journal of the Korea Computer Graphics Society
• /
• 제29권3호
• /
• pp.85-92
• /
• 2023

Recently, interest in artificial intelligence has increased due to the development of artificial intelligence fields such as ChatGPT and self-driving cars. However, there are still many unknown elements in training process of artificial intelligence, so that optimizing the model requires more time and effort than it needs. Therefore, there is a need for a tool or methodology that can analyze the weight changes during the training process of artificial intelligence and help out understatnding those changes. In this research, I propose a visualization system which helps people to understand the accumulated weight changes. The system calculates the weights for each training period to accumulates weight changes and stores accumulated weight changes to plot them in 3D space. This research will allow us to explore different aspect of artificial intelligence learning process, such as understanding how the model get trained and providing us an indicator on which hyperparameters should be changed for better performance. These attempts are expected to explore better in artificial intelligence learning process that is still considered as unknown and contribute to the development and application of artificial intelligence models.

• Journal of Korea Water Resources Association
• /
• 제54권7호
• /
• pp.485-493
• /
• 2021

Groundwater is an important water resource that can be used along with surface water. In particular, in the case of island regions, research on groundwater level variability is essential for stable groundwater use because the ratio of groundwater use is relatively high. Researches using artificial intelligence models (AIs) for the prediction and analysis of groundwater level variability are continuously increasing. However, there are insufficient studies presenting evaluation criteria to judge the appropriateness of groundwater level prediction. This study comprehensively analyzed the research results that predicted the groundwater level using AIs for various regions around the world over the past 20 years to present the range of allowable groundwater level prediction errors. As a result, the groundwater level prediction error increased as the observed groundwater level variability increased. Therefore, the criteria for evaluating the adequacy of the groundwater level prediction by an AI is presented as follows: less than or equal to the root mean square error or maximum error calculated using the linear regression equations presented in this study, or NSE ≥ 0.849 or R² ≥ 0.880. This allowable prediction error range can be used as a reference for determining the appropriateness of the groundwater level prediction using an AI.

• Proceedings of the Korean Society of Computer Information Conference
• /
• 한국컴퓨터정보학회 2021년도 제64차 하계학술대회논문집 29권2호
• /
• pp.53-56
• /
• 2021

국내 산업화가 들어선 후 산업화 당시 지었던 낙후된 건물의 증가에 따라 구조물의 손상 조사 및 검사 방법의 수요가 늘어나고 있다. 일반적으로 구조물의 손상은 전문 검사원이 현장에서 직접 측량도구와 시각적인 방식으로 검사한다. 그러나 전문 검사원들이 직접 조사하는 수고에 비해 균열을 검사하는 방식 자체가 단순하고, 일반 사람이 검사하기에는 객관성이 떨어지는 한계가 있어 균열을 자동적으로 검출함으로써 객관성과 편의성을 보장할 기술이 필요하다. 본 연구에서는 이미지 기반으로 다양한 환경에서의 외벽 균열을 검출할 수 있는 딥러닝 모델 개발을 소개한다. 균열 검출을 위해 다양한 외벽 균열 관련 데이터셋을 확보 및 구축하고 각 데이터셋의 검출 정보를 보완할 반자동(semi-auto) 라벨링 작업을 수행하였다. 두 번째로 기존 높은 검출 성능을 보였던 모델들을 선정 및 비교하여 YOLO v5 모델을 최종적으로 선정하였고, 도메인이 각각 다른 데이터셋에 대한 교차 학습을 통해 각 데이터셋의 mAP의 편차가 31%에서 11%로 좁히는 작업을 수행하였다. 이를 통해 실제 상황에서의 균열 영상에서 균열을 검출할 수 있는 측량 시스템을 개발함으로써 실질적인 검사의 도구로 활용될 수 있길 기대한다.