DOI QR코드

DOI QR Code

Development of the Port Authority Chatbot Service Using Generative AI and RAG

생성형 AI 및 RAG 활용한 항만공사 챗봇 서비스 개발

  • Tae-Gang Kim (Dept. of Information and Communication Engineering, Inha University) ;
  • Seong-Ju Shin (Dept. of Information and Communication Engineering, Inha University) ;
  • Kang-Jun Lee (Dept. of Information and Communication Engineering, Inha University) ;
  • Seong-Bin Cho (Dept. of Information and Communication Engineering, Inha University) ;
  • Jun-Gyu Park (Dept. of Software Engineering, Korea Aerospace University) ;
  • In-Soo Kim (ECS Telecom)
  • 김태강 (인하대학교 정보통신공학과) ;
  • 신성준 (인하대학교 정보통신공학과) ;
  • 이강준 (인하대학교 정보통신공학과) ;
  • 조성빈 (인하대학교 정보통신공학과) ;
  • 박준규 (한국항공대학교 소프트웨어학과) ;
  • 김인수 (ECS텔레콤)
  • Published : 2024.10.31

Abstract

본 연구는 생성형 AI와 검색 증강 생성(Retrieval-Augmented Generation, RAG) 기술을 결합하여 환각(Hallucination)을 방지하고 항만공사 환경에 특화된 챗봇 서비스를 제안한다. 주요 특징은 첫째, KMS 저장소, 벡터 데이터베이스, 검색 및 재조정 처리, LLM을 이용한 프롬프트 처리 등을 통해 사용자 질의에 최적화된 응답을 생성한다. 둘째, '챗봇 One-Step-Service'은 사용자에게 업무 처리용 Form을 제공해 업무 처리의 편의성을 향상시킨다. 해당 시스템을 항만공사에 적용하여 한정된 상담 인력 문제를 해결하고 다양한 내부 업무에 적용하여 업무 효율성이 향상될 것으로 기대된다.

Keywords

Acknowledgement

본 논문은 해양수산부 실무형 해상물류 일자리 지원사업(스마트해상물류 x ICT멘토링)을 통해 수행한 ICT멘토링 프로젝트 결과물입니다.

References

  1. 김민석. "본격 'DX.DT' 시대...한국, '디지털전환' 격전지 됐다." 서울신문, 2022.
  2. 한국지능정보사회진흥원. 인공지능 기반의 '챗봇(ChatBot)' 등장과 발전동향. ICT융합 Issues&Trends, 2016, 5p.
  3. Lewis, P., et al. Retrieval-augmented generation for knowledge-intensive NLP tasks. NeurIPS 2020, Vancouver, Canada, 2020.
  4. 정천수. "전통적인 챗봇과 ChatGPT 연계 서비스 방안 연구." 정보기술응용관리학회지, 2023, 12p.