A Study on the Service Integration of Traditional Chatbot and ChatGPT

전통적인 챗봇과 ChatGPT 연계 서비스 방안 연구

Abstract

This paper proposes a method of integrating ChatGPT with traditional chatbot systems to enhance conversational artificial intelligence(AI) and create more efficient conversational systems. Traditional chatbot systems are primarily based on classification models and are limited to intent classification and simple response generation. In contrast, ChatGPT is a state-of-the-art AI technology for natural language generation, which can generate more natural and fluent conversations. In this paper, we analyze the business service areas that can be integrated with ChatGPT and traditional chatbots, and present methods for conducting conversational scenarios through case studies of service types. Additionally, we suggest ways to integrate ChatGPT with traditional chatbot systems for intent recognition, conversation flow control, and response generation. We provide a practical implementation example of how to integrate ChatGPT with traditional chatbots, making it easier to understand and build integration methods and actively utilize ChatGPT with existing chatbots.

1. 서론

최근 인공지능 기술 발전과 함께 챗봇 시장에서도 큰 변화가 일어나고 있다. 기존의 전통적인 챗봇은 특정업무에 특화되거나 미리 지정된 대화 흐름에 따라 제한된 응답을 제공하는 한계를 가지고 있었다. 이러한 문제점은 사용자 경험에 부정적인 영향을 미치기도 하였다. 이러한 상황에서 최근에는 GPT(Generative Pre-trained Transformer) 모델을 적용한 생성형 AI(Generative AI) 챗봇인 ChatGPT가 등장하였다. ChatGPT는 사전 학습된 모델을 기반으로 대화에 대한 자연스러운 응답을 제공하는 능력을 가지고 있다.

ChatGPT는 대화 흐름을 미리 지정하지 않고, 대화의 흐름을 이해하고 적절한 응답을 생성함으로써 자연스러운 대화를 제공할 수 있다. 또한, ChatGPT는 학습데이터를 기반으로 다양한 주제에 대한 대화를 생성할 수 있으며, 기존의 전통적인 챗봇과는 달리 사용자의 대화를 인식하여 이해할 수 있다. 이러한 특징들은 ChatGPT를 챗봇 시장에서 새로운 유망한 기술로 부각되게 하였다. 그러나 ChatGPT를 단독으로 사용하면 여전히 일부 한계가 있다. 예를 들어, 대화의 응답이 제한되어 있지 않기 때문에 응답이 부적절하거나 문맥에 맞지 않는 경우가 있다. 이에 따라 ChatGPT와 전통적인 챗봇을 통합하여, 자연스러운 대화와 안정적인 서비스를 제공할 수 있는 방법이 대두되고 있다.

기본적으로 챗봇은 사람과 서비스 봇 간에 문자나 음성을 통해 질문에 알맞은 답이나 각종 연관 정보를 제공하는 인공지능 기반의 대화형 소프트웨어이다[NIA, 2016]. 전통적인 챗봇은 일반적으로 기업이 사용하는 챗봇으로 판별 AI(Discriminative AI) 모델을 사용하여 질문의 의도를 파악하고 분류․예측해서 미리 준비해둔 답변을 찾아 매칭을 하고 챗봇은 사람의 질문을 인식하고 사람이 말하는 것처럼 자연스럽게 답변을 제공하기 위해 NLP(Natural Language Process) 기술을 이용한다[Jeong, 2023b].

NLP는 질문인 자연어를 읽고 이해하는 NLU(Natural Language Understanding)와 답변을 위해 자연어를 생성하는 NLG(Natural Language Generation) 컴포넌트로 구성되어 있다[Jeong, 2023b]. NLG는 ML(Machine Learning)을 사용하여 대규모 말뭉치(Corpus)를 학습하여 답변을 생성할 수 있다. 2020년에 OpenAI1)가 출시한 NLP모델인 GPT-3는 3,000억 개의 데이터셋을 학습에 사용했고 매개변수(Parameter)는 1,750억 개였으며 2021년에 Microsoft와 NVIDIA가 공개한 MT-NLG(Megatron-Turing Natural Language Generation)모델의 매개변수는 5,300억 개나 되는 대형언어모델(Large Language Model, LLM)을 개발하여 자동 대화 생성, 번역 등에 활용할 수 있게 됐다[Jeong, 2023b]. 또한 2022년 11월에는 OpenAI에서 ChatGPT를 공개하여 출시 2개월 만에 월간 이용자가 1억 명을 넘기며 많은 관심을 받고 있다[Jeong, 2023b]. 이렇듯 최근 최고 화두는 ChatGPT와 2023년 2월에 공개한 Google의 Bard, Microsoft의 Bing AI, Facebook Meta의 LLaMA(Large Language Model Meta AI) 등의 언어 생성형 AI 모델에 집중되어 있다[AI-Times, 2023a]. 생성형 AI는 인공지능 분야에서 사용하는 용어로 입력데이터를 학습하고, 이를 기반으로 새로운 데이터를 만들어내는 능동적 기술을 의미한다[Yang et al., 2023; Pavlik, 2023]. <Figure 1>에서는 생성형 AI의 타임라인을 보여주고 있으며 다가올 미래를 생성형 AI시대로 보고 있고, 2022년에 가장 뜨거운 화제였으며, 2023년과 이후에도 여전히 주목할 만한 AI기술로 전망하고 있다[Wowmakers, 2023]. ChatGPT로 시작된 생성형 AI 기술 열풍은 Stable Diffusion, Midjourney 등의 이미지 생성으로까지 이어지면서 일반인들에게 회자되고 있고, <Table 1>은 생성형 AI기술의 주요 데이터 형태별 대표 모델들과 이를 이용한 응용분야를 보여주고 있으며 텍스트, 코드, 이미지, 동영상, 3D 모델, 오디오 등 다양한 데이터 형태를 창조할 수 있다[Kim, 2023].

<Figure 1> Timeline of Generative AI

<Table 1> Generative AI Representative Models and Applications by Data Type

이렇듯 생성형 AI 기술이 들어가 있는 ChatGPT는 다양한 방식으로 지식을 찾아 답변을 생성하여 제공하고 있기 때문에 질문에 대한 응답의 품질을 높이기 위하여 전통적인 챗봇과 서로 상호 보완적으로 답변을 제공하기 위한 연계를 통한 서비스가 요구되고 있다.

본 논문에서는 ChatGPT와 전통적인 챗봇을 통합하여 사용자 경험을 향상시키는 방법에 대해 다루고 있다. 이를 위해, 먼저 ChatGPT와 전통적인 챗봇의 특징과 한계를 비교하고, 통합 프레임워크를 설계하고 구현하는 방법을 제시한다. 또한, 연구를 통해 얻은 결과와 분석을 통해 ChatGPT와 전통적인 챗봇을 통합하여 얻을 수 있는 이점과 한계를 논의하고, 이를 토대로 챗봇 개발에 대한 제언을 제시한다. 이러한 연구를 통해, ChatGPT와 전통적인 챗봇을 통합하여 답변의 품질을 향상시키는 새로운 방법을 제시할 수 있을 것으로 예상된다.

본 논문은 다음과 같이 구성되어 있다. 제2장에서는 ChatGPT와 전통적인 챗봇의 특징과 한계를 분석하고, 이를 바탕으로 ChatGPT와 전통적인 챗봇을 통합하여 사용자 경험을 향상시키는 방법을 제안한다. 제3장에서는 제안된 방법을 구현하는 방법에 대해 설명한다. 제4장에서는 제안된 방법에 따라 설계 및 구현을 하고, 결과와 분석 내용을 제시한다. 마지막으로, 제5장에서는 연구 결과를 토대로 한 ChatGPT와 전통적인 챗봇 연계 서비스 방안에 대한 제언 및 향후 연구 방향에 대하여 살펴본다.

2. 이론적 배경

전통적인 챗봇과 ChatGPT가 상호 보완적으로 답변을 제공하기 위한 이 두 가지 챗봇의 기반기술과 특.장점에 대해 살펴본다.

2.1 전통적인 챗봇

2.1.1 기반기술 및 특징

전통적인 챗봇의 주요 기반 기술은 규칙 기반 체계와 패턴 매칭 기술이 주를 이루며, NLP 기술이나 ML 기술은 발화문의 의도파악을 하기 위해 사용된다.

챗봇은 스스로 동작할 수 없기 때문에 이를 동작 시킬 수 있는 플랫폼을 선정하는 것이 매우 중요하고 필수적인 과정으로 챗봇 구축은 대화처리 엔진을 탑재하고 있는 플랫폼을 활용하여 구축하게 된다[Jeong and Jeong, 2020]. 챗봇 플랫폼마다 다양한 기능을 제공하지만 공통 기능을 살펴보면 발화문(Paraphrases), 의도(Intent), 개체(Entity), 대화설계(Dialogue design), 학습(Training)기능을 제공하고 있어, 사전에 챗봇으로 활용할 지식을 준비하고, 사용자의 발화를 분석하여 질문의도를 파악하여 알맞은 답변을 하도록 질문과 의도, 답변이 상호 매칭 되게 대화모델을 생성하며, 인공지능 기술을 활용하여 학습하고 평가할 수 있도록 한다[Jeong and Jeong, 2020].

1) 규칙 기반 체계(Rule-based system): 규칙기반 체계는 프로그래머가 미리 정해놓은 규칙에 따라 대화를 진행한다. 이 규칙은 IF-THEN 형태로 작성되며, 사용자의 입력에 따라 사전에 작성된 규칙을 탐색하여 적절한 답변을 생성한다. 규칙기반 체계는 비교적 구현하기 쉽고 정확도가 높지만, 대화 흐름이 제한적이며 규칙의 수가 많아질수록 유지보수가 어려워진다.

2) 패턴 매칭 기술(Pattern matching): 패턴 매칭 기술은 특정 패턴이나 키워드를 사용자 입력에서 찾아내어 대응되는 답변을 생성한다. 예를들어, 사용자의 입력에서 “안녕”이라는 단어가 포함되어 있으면, 미리 작성된 “안녕하세요”라는 답변을 반환한다. 패턴 매칭 기술은 규칙 기반 체계에 비해 유연성이 높고 적용하기 쉽지만, 정확도가 낮아 대화 흐름이 자연스럽지 않을 수 있다.

3) 자연어 처리(NLP): 챗봇은 자연어를 이해하고 처리하는 NLP 기술을 기반으로 동작한다. NLP 기술은 문장을 이해하고 분석하여 그 의미를 파악하는 기술로, 텍스트 분석, 텍스트 생성, 기계 번역, 정보 검색 등의 분야에서 사용된다. 챗봇에서는 사용자의 발화를 분석하여 의도와 개체를 파악하고, 이에 따라 적절한 답변을 생성하는데 사용된다. 그리고 전통적인 챗봇에 사용하는 언어모델은 판별모델(Discriminative Model)로 데이터 X가 주어졌을 때 Label Y가 나타날 조건부확률 P(Y|X)를 직접적으로 반환하는 모델이다. 이 모델은 분류모델이라고도 하며 Label 정보가 있어야하기 때문에 지도학습 모델이라고 볼 수 있는 판별 AI 모델이다.

4) 인공지능(AI) 기술: 챗봇은 인공지능 기술을 이용하여 자동으로 대화를 처리하며 이를 위해 ML이나 딥 러닝(Deep Learning) 알고리즘이 사용된다. 또한, 사용자와의 대화를 통해 더 많은 정보를 학습하고, 이를 바탕으로 더 나은 답변을 생성한다.

5) 데이터베이스와 연동: 챗봇은 챗봇 플랫폼에서 가지고 있는 정보이외에 추가적인 답변을 제공하기 위해 데이터베이스와 연동하여 정보를 검색하고, 필요한 정보를 가져와 사용자에게 제공한다. 데이터베이스는 챗봇에서 중요한 역할을 수행하며, 대화 내용, 사용자 정보, 상품 정보 등 다양한 정보를 저장하고 관리한다.

6) 다양한 사용 가능성: 챗봇은 다양한 사용 가능성을 가지고 있다. 인터넷이나 모바일 앱에서 챗봇을 사용할 수 있으며, 페이스북 메신저, 카카오톡, 라인 등의 메신저 앱에서도 챗봇을 이용할 수 있다. 또한, 챗봇은 여러 사용자와 동시에 대화를 처리할 수 있어 사용성 측면에서 다양한 채널을 제공할 수 있다. 또한, 챗봇은 인간 대화의 효율성을 높일 수 있다. 챗봇을 이용하면 사용자는 언제든지 챗봇과 대화를 할 수 있으며, 대화 내용을 저장해두었다가 나중에 다시 이용할 수 있고, 사용자가 원하는 정보를 빠르게 찾아 제공할 수 있으므로, 사용자의 시간과 노력을 절약할 수 있다. 이러한 인간 대화의 효율성은 고객 서비스, 상담, 예약, 주문 등에 적용될 수 있다.

이와 같이 전통적인 챗봇은 주로 룰베이스 및 패턴매칭 기술을 이용하며, ChatGPT와 같이 NLP 기술과 AI 기술을 이용하여 대화를 처리할 수도 있고, 데이터베이스와 연동하여 정보를 제공한다. 또한, 다양한 사용 가능성과 인간 대화의 효율성이 높아 다양한 분야에서 활용될 수 있다.

2.1.2 전통적 챗봇의 한계점

전통적인 챗봇은 사전에 정의된 답변을 통해 답변을 처리할 수 있기 때문에 다음과 같은 한계점을 가지고 있다.

1) 제한된 대화 처리 능력: 사전에 정의된 응답만을 처리할 수 있기 때문에, 복잡한 질문이나 사용자의 의도 파악이 어려운 경우 대처하기 어렵다. 이로 인해 사용자의 불만이 발생할 수 있으며, 사용자 경험을 저하시킬 수 있다.

2) 학습 자료범위: 학습 능력이 제한적이다. 챗봇이 처리할 수 있는 대화 범위는 사전에 학습된 응답만큼으로 제한되어 있다. 이러한 제한으로 인해, 새로운 정보를 학습하거나 새로운 대화상황에 대처할 수 있는 능력이 부족하다.

3) 일관성 부족: 대화의 일관성을 유지하기 어렵다. 이는 사용자가 이전 대화에서 언급한 내용을 기억하지 못하거나, 이전 대화의 문맥을 이해하지 못하는 경우가 많기 때문이다. 이로 인해 사용자가 불만을 느끼거나, 챗봇과의 대화가 비효율적으로 이어지는 경우가 있다.

4) 플랫폼 종속성: 전통적인 챗봇은 특정 플랫폼에 종속적이다. 예를 들어, 페이스북 챗봇은 페이스북 메신저 상에서만 동작한다. 이러한 종속성으로 인해, 다양한 플랫폼에서 챗봇을 이용할 수 있는 범용성이 떨어지게 된다.

이와 같이 전통적인 챗봇은 제한된 대화 처리 능력, 학습 자료범위 및 일관성 부족, 높은 개발 비용, 플랫폼 종속성 등의 한계점을 가지고 있다. 따라서 이러한 한계점을 극복하고, 더 나은 챗봇 서비스를 제공하기 위해 최근에는 새로운 AI 기술과 NLP 기술을 접목한 새로운 챗봇 기술이 등장하고 있다. 이러한 새로운 챗봇 기술은 다양한 데이터를 학습하고, 자연어 처리 기술을 이용하여 보다 많은 사용자의 의도를 파악하고, 다양한 대화 상황에 대처할 수 있도록 발전하고 있다. 또한, 개발 비용을 낮추고, 플랫폼 종속성을 줄이기 위해 클라우드 기술을 이용한 서비스도 등장하고 있다. 이러한 새로운 챗봇 기술을 이용하면, 사용자 경험을 개선하고, 업무 효율성을 높일 수 있다.

2.2 ChatGPT

2.2.1 기반기술 및 특징

ChatGPT는 생성 모델(Generative Model)기반 언어모델을 사용하고 있다. OpenAI에서 GPT-3에 인간 전문가 집단이 피드백(Reinforcement Learning from Human Feedback, RLHF)시키는 학습과정을 거치면서 대화형으로 발전시킨 GPT-3.5모델을 적용하여 사람과 유사한 자연어를 생성하도록 학습된 AI 챗봇으로 생성형 AI 모델이 적용되어 있다[Jeong, 2023b]. 2023년 3월에는 GPT-4 모델 기반으로 업그레이드 되었으며, GPT-4는 이전 GPT-3.5 모델에 비해 환각(Hallucination)을 크게 줄였고, 적대적으로 설계된 내부 사실성 평가에서 최신 GPT-3.5보다 40% 높은 점수를 받았다. 또한 이미지와 텍스트 입력을 통해 텍스트를 생성할 수 있는 대규모 멀티모달(multimodal) 모델이다[OpenAI, 2023a]. 이러한 모델을 적용함으로서 ChatGPT는 글쓰기, 대화에 특화된 생성형 AI로 새로운 정보나 데이터도 만들어 낼 수 있다. 기존 대화형 플랫폼들이 대부분 사전에 학습된 데이터 안에서 대답을 찾아 제시했다면, ChatGPT는 딥러닝을 통해 스스로 언어를 생성하고 추론하는 능력을 가진 AI이다[Lee, 2023]. ChatGPT의 학습 프로세스는 LLM과 강화 학습(Reinforcement Learning, RL)에 크게 의존한다. ChatGPT가 강화학습한 RLHF과정은 <Figure 2>와 같다. RLHF는 인간의 피드백을 바탕으로 강화학습을 진행하는 방법으로 언어모델이 일반적인 말뭉치를 학습하는 것을 넘어 복잡한 사람의 가치를 담을 수 있도록 하였으며, RLHF는 다음과 같은 세 가지 핵심적인 단계로 구성되어 있다[Lambert, 2022].

<Figure 2> ChatGPT RLHF Process

Step 1. Supervisored Fine-Tuning(SFT) Model Training: SFT모델을 학습하기 위해 Demo 데이터셋을 수집한 후, 인간 Labeler들은 선택된 프롬프트에 대해서 예상 답변을 기록하여 미세조정(fine-tuning)을 진행 한다.

Step 2. Reward Model Training: 보상 모델, 혹은 선호모델(Reward Model/Preference Model)을 학습하는 것으로, 인간 Labeler는 Step-1에서 생성된 SFT 모델의 출력에 best부터 worst까지 순위(점수)를 매긴 데이터셋을 활용하여 인간이 선호하는 텍스트를 학습시킨다.

Step 3. Fine-tuning with Reinforcement Learning: Step-2에서 학습한 Reward Model이 제공하는 보상을 사용하여 SFT 모델을 강화학습을 통해 Fine-tuning 시키는 것으로 Step-3 부터는 더 이상 사람인 Labeler가 필요하지 않다. 최근에는 정책 그라디언트 강화학습 알고리즘인 PPO(Proximal Policy Optimization)을 사용하여 언어모델 파라미터의 일부 혹은 전부를 Fine-tuning하는 방법이 제안되었다.

이러한 과정을 통해 RLHF는 빠르고 정확한 자연어 처리를 가능하게 한다. RLHF의 장점은 인간의 피드백을 바탕으로 강화학습을 진행함으로써, 언어 모델이 일반적인 말뭉치를 학습하는 것을 넘어 복잡한 사람의 가치를 담을 수 있도록 하였다. 이는 AI 시스템이 더 정확하고 일관성 있으며 상황에 맞는 응답을 생성할 수 있도록 도와준다[Alex, 2023].

하지만 RLHF에도 확장성이 제한적이라는 한계점이 있다. 데이터셋을 생성하기 위해 Labeler 고용을 위한 비용이 많이 들고, 인간의 피드백은 시간이 많이 소요된다. 또한 Labeler의 편향된 선호도가 학습에 반영되는 주관적인 영향을 받는 한계가 존재한다.

2.2.2 ChatGPT의 한계점

ChatGPT는 대화형 인공지능 모델 중에서도 뛰어난 성능을 보여주고 있지만, 다음과 같은 몇 가지 한계점이 존재한다.

1) 지식 범위 한계: ChatGPT는 대규모 데이터를 학습하고 생성하는 데 강점이 있지만, 모델이 이해하는 지식 범위는 학습 데이터에 제한된다. <Figure 3>과 같이 ‘한국의 현재 대통령’과 ‘오늘의 날씨’와 같이 현재 상태에 대한 질문했을 때 올바른 답변을 하지 못한다. 이것은 ChatGPT가 2021년 9월까지의 데이터만 학습하여 최신정보는 알 수 없기 때문이다[OpenAI, 2023b]. 따라서, 최신 정보와 상충 되는 답변을 생성할 수도 있으며 이러한 환각은 대표적인 생성형 AI 의 한계이며 이전에 학습한 내용을 사용하므로 새로운 문제나 도메인에 대한 이해도가 낮을 수 있다.

<Figure 3> Answers from ChatGPT

2) 질문 이해 한계: 문장의 흐름을 이해하고 다음단어를 예측하는 능력에 강점이 있지만, 질문에 내포된 함축된 의미를 이해하는 능력은 프롬프트에 따라 결과 값이 많은 영향을 받는다. 예를들어, “과일이지만 당도가 낮은 과일은?” 이라는 질문에 “레몬”이라는 답변을 반환할 수 있지만, “레몬은 신맛이 강한 과일이다”라는 추가 정보를 제공할 수는 없다. 질문자에 따라 과일이름에 추가로 특징까지 원할 수 있어 포괄적인 답변을 제공해준다면 두 번 질문 하지 않아도 되기 때문에 이러한 부분은 미리 과일명과 특징까지 정의한 “대표적인 것이 레몬으로 신맛이 강한 과일이다”라고 답변을 정의해 줄 수 있는 전통적인 챗봇의 답변이 만족스러울 수 있다.

3) 일관성 유지 한계: 대화의 일관성을 유지하려고 노력하지만, 때로 일관성이 떨어지는 답변을 생성할 수 있다. 이는 모델이 이전 대화의 맥락(Context)을 제대로 이해하지 못하여, 일관성 있는 답변을 생성하지 못하는 경우가 있기 때문이다.

4) 개인 정보 보호 한계: 대화에서 나오는 정보를 기반으로 답변을 생성하기 때문에, 사용자의 개인 정보 보호에 대한 문제가 발생할 수 있다. 특히, 개인 식별 정보나 금융 정보 등 민감한 정보가 대화 내용에 포함될 경우, 보안 문제가 발생할 수 있다. 따라서, 개인정보에 관한 것은 회피해야 한다. 개발자가 동의 없이 사용자로부터 데이터를 수집하고 사용하는 것을 방지하는 법이 이미 있지만, 실제 생활에서 사용자는 개발자가 데이터를 얼마나 많이 가져오고, 해당 데이터가 어디에 있는지 알기 어렵기 때문이다[Jeong and Jeong, 2022].

5) 대화 흐름 제어 한계: 기본적으로 자유로운 대화를 지원하기 때문에, 대화의 흐름을 제어하기 어렵다. 이는 모델이 부적절한 주제로 이동하거나, 대화를 적절하게 마무리하지 못할 수 있다는 것을 의미한다.

2.2.3 ChatGPT 활용범위

ChatGPT는 자연어 이해와 생성에 뛰어난 성능을 보여주기 때문에 다음과 같이 다양한 분야에서 활용될 수 있다.

1) 전통적인 챗봇과 연계: 챗봇은 사용자와의 대화를 통해 정보를 제공하거나 서비스를 제공한다. 전통적인 챗봇에서 다양한 도메인의 데이터를 사전에 준비하여 특정 시나리오에 의해 답변을 생성할 수 있지만, 추가적으로 많은 양의 자료를 학습할 수 있으므로, 특정 분야에 대한 전문적인 지식이 필요한 챗봇도 만들 수 있다.

2) 자동 대화 시스템: ChatGPT를 사용하여 자동대화 시스템을 구축할 수 있다. 이를 통해 사용자들은 질문을 하여 문제를 해결할 때 자동으로 대화를 이어나갈 수 있으며 ChatGPT의 대화 생성 능력을 이용하여, 대화의 흐름을 일관성 있게 유지하면서 자연스러운 대화를 진행할 수 있다.

3) 문서 생성: ChatGPT는 주어진 키워드나 문장을 바탕으로 긴 글을 생성하는 능력을 가지고 있어 이를 이용하여 문서를 생성하거나, 글쓰기 자동화 등의 작업을 수행할 수 있다.

4) 문장 요약: 문장을 요약하는 능력도 가지고 있어 이를 이용하여 긴 글에서 핵심 내용을 추출하거나, 자동으로 문서를 요약하는 등의 작업을 수행할 수 있다.

5) 번역: ChatGPT는 다국어 데이터를 학습할 수 있으므로, 번역 작업에도 활용될 수 있다. 실시간으로 언어를 이해하고 번역할 수 있으므로 여러 국가 및 지역에서 운영되는 비즈니스에 이상적이다[Marcin, 2023].

6) 코드 작성 및 디버깅: ChatGPT는 자연어 처리 능력을 활용하여 사용자의 요구 사항을 이해하고 해당 요구 사항에 맞는 코드를 생성할 수 있다. 또한 프로그래밍 지식을 활용하여 코드의 오류를 찾고 수정 제안을 할 수 있다.

이렇게 각각의 응용 분야에서 ChatGPT는 다양한 데이터를 학습하여 다양한 도메인에 적용 가능하며 자연스러운 대화 생성 능력을 가지고 있어 사용자들과 자연스러운 대화를 진행할 수 있다.

2.2.4 ChatGPT API / Plug-in

ChatGPT는 다양한 시스템에 활용할 수 있도록 API와 ChatGPT가 API를 지능적으로 호출할 수 있도록 하는 플러그인(Plug-in)을 제공하고 있다. ChatGPT는 최신 정보를 사용하기 위해 방대한 데이터셋을 재교육하거나 맞춤형 데이터셋으로 미세조정하는 대신, 각 플러그인이 제공하는 API를 호출해 연결된 데이터를 검색하거나 작업을 수행하는 방식을 채택했다[AI-Times, 2023b]. 실시간 대화가 불가능했던 ChatGPT 한계점도 ChatGPT 플러그인을 활용하면, 기존 ChatGPT에 실시간 정보 조회 API를 갖다 붙임으로써 이를 극복할 수 있다[OpenAI, 2023c].

1) ChatGPT API: ChatGPT API는 ChatGPT 모델을 사용하여 응용 프로그램과 제품에 자연어대화를 통합할 수 있는 방법을 제공하며 API 제공기능은 다음과 같다[OpenAI, 2023d].

·텍스트 생성: ChatGPT API는 텍스트 프롬프트에서 텍스트를 생성하는 데 사용할 수 있다. 예를 들어 “오늘의 날씨는 어떻습니까?”라는 프롬프트에서 “오늘은 맑고 화창합니다. 기온은 섭씨 20도 정도입니다.”와 같은 텍스트를 생성할 수 있다.

·언어 번역: ChatGPT API는 텍스트를 한 언어에서 다른 언어로 번역하는 데 사용할 수 있다. 예를 들어 “오늘의 날씨는 어떻습니까?”라는 프롬프트를 스페인어, 일본어, 중국어 등으로 번역할 수 있다.

·창의적인 콘텐츠 작성: ChatGPT API는 시, 코드, 대본, 음악 작품, 이메일, 편지 등과 같은 다양한 종류의 창의적인 콘텐츠를 작성하는 데 사용할 수 있다.

·정보 제공 방식으로 질문에 답변: ChatGPT API는 지식 기반에서 질문에 답변하는 데 사용할 수 있다. 예를 들어 “한국의 수도는 어디입니까?”라는 질문에 “한국의 수도는 서울입니다.”라고 답변할 수 있다. 그리고 ChatGPT API는 REST API 형태로 제공되며 HTTP 요청을 사용하여 호출할 수 있다.

2) ChatGPT Plug-in : ChatGPT 플러그인 또는 OpenAI 플러그인은 기존 서비스하는 제품에 추가 기능을 넣어 확장할 때 사용되는 것으로, ChatGPT를 타사 여행앱, 배달앱, 쇼핑앱, 호텔앱 등과 같은 애플리케이션에 연결해 준다. 이러한 플러그인을 통해 ChatGPT는 개발자가 정의한 API와 상호 작용하여 ChatGPT의 기능을 향상시킬 수 있으며 플러그인을 통해 ChatGPT는 다음과 같은 다양한 작업을 수행할 수 있다[OpenAI, 2023e].

·실시간 정보 검색 : 스포츠 점수, 주가, 최신뉴스 등

·지식 기반 정보를 검색 : 회사 문서, 개인 메모 등

·사용자 대신 작업 수행 : 비행기 예약, 음식 주문 등

이렇듯 API는 OpenAI에서 제공하는 인터페이스로, 적은 코드 양으로 ChatGPT를 활용할 수 있는 장점이 있다. API를 사용하면 다양한 자연어 처리 작업을 수행할 수 있으며, 개발자가 직접 모델을 구현하거나 학습시킬 필요가 없다. 반면에, 플러그인은 애플리케이션 내에 ChatGPT 기능을 통합할 수 있어 플러그인을 사용하면, 애플리케이션에서 쉽게 ChatGPT를 활용할 수 있다. 따라서, API와 플러그인을 선택할 때는 개발자의 용도와 환경에 따라 적합한 방법을 선택하여야 한다.

3. 연구 방법

본 연구에서는 앞서 기술했던 전통적인 챗봇과 ChatGPT의 장점 및 한계점에 대하여 서로 보완적인 부분을 제시한다. 또한 두 가지 챗봇을 연계해서 효과적인 서비스를 제공할 수 있는 방안을 제안한다.

3.1 ChatGPT와 연계 서비스 유형

3.1.1 업무 분야별 서비스 연계 유형

전통적인 챗봇과 ChatGPT와의 연계 서비스 유형을 분석하여 <Table 2>와 같이 각 영역별 담당하는 역할을 기술하였다.

<Table 2> Integration Service Type

<Table 2>는 전통적인 챗봇과 ChatGPT를 연계하여 서비스할 수 있는 것을 보여주고 있다. 전통적인 챗봇은 간단한 질문에 대한 대답이나 정보 제공, 예약 등을 처리하고, ChatGPT는 고객의 개인화된 요구에 대해 더욱 정확한 대답과 맞춤형 서비스를 제공할 수 있다. 두 가지 기술을 연계함으로써, 고객의 요구에 더욱 빠르고 정확하게 대응할 수 있고, 높은 수준의 개인화된 서비스를 제공할 수 있다.

이와 같이 전통적인 챗봇과 ChatGPT를 연계하여 서비스할 수 있는 방안은 매우 다양하다. 기업이나 서비스 제공자는 자신의 업종과 고객 니즈에 맞는 방법을 선택하여, 보다 개인화된 서비스를 제공할 수 있다. 이는 고객 만족도를 높이고, 기업의 이익을 증대시키는데 기여할 수 있다.

3.1.2 서비스 유형별 대화 시나리오 분석

전통적인 챗봇과 ChatGPT에 대하여 <Table 2>에서 살펴본 것과 같이 ChatGPT와 다양한 업무 분야에서 연계서비스를 제공할 수 있다. <Table 3>에서는 챗팅부분에서 ChatGPT와 전통적인 챗봇은 서로 보완적인 역할을 하여 ChatGPT는 전통적인 챗봇이 부족한 부분을 메울 수 있으며, 전통적인 챗봇은 ChatGPT가 잘 처리하지 못하는 부분을 보강할 수 있다. <Table 3>은 ChatGPT와 전통적인 챗봇의 통합 서비스 유형별로 대화 시나리오 예제를 보여주고 있다.

<Table 3> Case Examples by Service Type

ChatGPT에 대화 시에는 질문이나 요청인 프롬프트(Prompt)를 얼마나 자세하게 전달하느냐에 따라 완성도 높은 답변을 얻을 수 있기 때문에 LLM으로부터 프롬프트 입력값들의 조합을 찾는 작업을 탐구하는 프롬프트 엔지니어링(Prompt Engineering)도 중요한 요소로 작용한다. 대량의 데이터로 모델의 파라메터를 업데이트하는 Fine-tuning 과정 없이도 답변의 성능을 높이는 방법으로 프롬프트 질문시 답변예시를 제공함으로써 그와 유사한 답변을 생성할 수 있도록 유도하는 방법이다. 프롬프트의 지시문에 포함시키는 예시가 없는 경우인 Zero-Shot, 예시가 한개인 One-shot, 2개 이상인 Few-shot Learning으로 구분되며, 다양한 예시를 제공할수록 일정 수준이상의 답변을 얻을 수 있다.

3.2 ChatGPT와 전통적인 챗봇의 연계절차

3.2.1 전통적인 챗봇과 ChatGPT의 역할 분담 결정

먼저, 전통적인 챗봇과 ChatGPT가 각각 어떤 역할을 맡을지 결정한다. 전통적인 챗봇은 서비스 도메인이 정확하게 정해져 있으므로 예약, 주문 등 일상적인 업무를 처리하고, Out-of-Domain(OOD)에 해당되는 발화문이나 NLU 파트에 의해 인식이 실패한 발화문에 대한 답변은 ChatGPT가 답변을 주어 고객의 요구사항에 대해 더욱 정확한 대답과 개인화된 서비스를 제공한다.

3.2.2 대화 흐름 설계

전통적인 챗봇과 ChatGPT가 대화하는 흐름을 설계한다. 이 단계에서는 사용자가 챗봇과 대화할 때 어떤 질문을 할 수 있는지, 어떤 답변을 받을 수 있는지 등을 고려하여 챗봇과 ChatGPT의 역할을 결정한다.

3.2.3 데이터 수집 및 전처리

LLM을 사용하는 ChatGPT는 대규모의 데이터를 필요로 하므로, 사용자의 대화 데이터를 수집하고 전처리한다. 이를 위해서는 데이터 수집 도구와 전처리 도구를 사용하여 사용자의 대화 내용을 분석하고, 이를 바탕으로 적절한 대화 모델을 학습시킨다. 전통적인 챗봇의 경우 학습문장을 생성해야하는데 이 부분은 ChatGPT를 활용하여 유사질문 추천을 받아 입력하면 학습문장 생성에 효율적이다.

3.2.4 챗봇과 ChatGPT 연계

전통적인 챗봇과 ChatGPT를 연계하기 위해서는, 사용자가 질문을 하면 먼저 전통적인 챗봇이 대답을 하도록 한다. 만약 전통적인 챗봇이 대답하지 못하는 경우, ChatGPT가 대답하도록 한다. 이것을 해결하기 위해 전통적인 챗봇과 ChatGPT를 연결하는 API또는 Plug-in을 활용하기 위한 인터페이스를 설계하여 연계한다.

3.2.5 모니터링 및 개선

챗봇과 ChatGPT의 연계가 운영되면서 사용자들이 제기하는 문제점이나 개선사항을 모니터링하고, 업무에 관련된 질문에 오답변이나 의도를 잘 못 파악한 경우에 챗봇에서 의도를 재설계 하는 등 적절한 개선작업을 수행한다.

3.2.6 연계 기능 개발

챗봇과 ChatGPT를 연계하기 위해서는 연계 플랫폼기능이 필요하다. 이를 위해 전통적인 챗봇과 ChatGPT를 쉽게 연계하는 기능을 챗봇 플랫폼에 추가하고, 이를 사용하여 사용자와의 대화를 쉽게 처리할 수 있도록 한다.

3.2.7 사용자 경험 개선

챗봇과 ChatGPT의 연계는 사용자 경험을 개선하는 데 큰 도움이 된다. 사용자가 자연스럽게 대화를 할 수 있도록 대화 흐름을 개선하고, 사용자의 요구사항에 맞는 적절한 대답을 제공하도록 ChatGPT를 학습시키는 작업을 지속적으로 수행한다.

3.2.8 보안 및 개인정보 보호

챗봇과 ChatGPT의 연계는 사용자의 민감한 정보를 다루기 때문에 보안과 개인정보 보호에 대한 주의가 필요하다. 이를 위해 데이터 보호, 인증 및 권한 부여 등의 보안 관련 작업을 수행한다.

3.2.9 시스템 유지보수 및 업그레이드

챗봇과 ChatGPT의 연계하기 위해서는 추가되는 연계 기능에 대해 지속적으로 시스템 유지보수와 업그레이드를 필요로 한다. 이를 위해 시스템 모니터링, 오류 수정 및 기술 업그레이드 등의 작업을 지속적으로 수행하여 챗봇과 ChatGPT의 연계를 개선하고 최신기술을 활용한다.

위와 같은 절차 및 점검사항을 고려하여 전통적인 챗봇과 ChatGPT 연계시 효과적인 챗봇 서비스를 제공할 수 있도록 한다.

3.3 ChatGPT와 전통적인 챗봇의 연계 시나리오

절차 및 점검사항 유형을 파악한 후에는 대화 시나리오를 다음과 같이 구성하여 진행한다.

첫 번째 방법은 전통적인 챗봇과 ChatGPT를 순차적으로 사용하는 방법이다. 이 방법은 챗봇이 일정 수준 이상의 대화를 처리하지 못할 때, ChatGPT를 사용하여 대화를 이어나가는 방법이다. 이 경우, 사용자가 챗봇으로부터 받은 응답이 오답변이거나 만족스럽지 않은 경우, 챗봇은 ChatGPT에게 해당 대화 내용을 전달하고, ChatGPT는 해당 내용을 분석하여 적절한 응답을 제공한다. 이 방법은 챗봇과 ChatGPT를 순차적으로 사용하므로, 챗봇이 처리할 수 있는 대화와 ChatGPT가 처리할 수 있는 대화를 나누어 처리할 수 있다.

두 번째 방법은 챗봇과 ChatGPT를 병행하여 사용하는 방법이다. 이 방법은 챗봇과 ChatGPT가 동시에 작동하며, 챗봇이 처리할 수 있는 대화와 ChatGPT가 처리할 수 있는 대화를 자동으로 구분하여 처리한다. 이 경우, 사용자가 입력한 대화 내용이 챗봇에서 처리할 수 없는 경우, ChatGPT가 해당 대화 내용을 분석하여 적절한 응답을 제공한다. 또한, 사용자의 대화 내용이 챗봇에서 처리할 수 있는 경우에는, ChatGPT가 적절한 응답을 제공하지 않고 챗봇이 응답을 처리할 수 있도록 한다.

이러한 방법을 통해 챗봇과 ChatGPT를 연계하여, 사용자에게 더욱 효과적인 서비스를 제공할 수 있다. 또한, 이 방법은 챗봇과 ChatGPT의 각각의 장점을 활용하며, 대화의 흐름을 자연스럽게 이어나갈 수 있도록 한다. 이렇게 전통적인 챗봇과 ChatGPT를 연계함으로서, 사용자에게 더욱 완성도 높은 답변을 제공할 수 있다.

4. 적용방안 및 사례연구

본 구현 사례에서는 3장에서 제시한 서비스유형 분석 및 연계방법을 적용하였으며, 구현 방법과 결과를 소개 한다. 개발환경은 AI기반 챗봇 플랫폼인 Brity Assistant를 기반으로 ChatGPT와 연계하여 구현 하였다.

챗봇의 역할은 업무용으로 사용하는 부분을 전통적인 챗봇이 담당하고 스몰톡(Smalltalk) 부분은 사용자의 질문을 예측할 수 없기 때문에 ChatGPT가 담당하는 것으로 역할을 나누어서 진행하였으며, <Table 3>의 서비스 유형중 업무봇-스몰톡 유형이 챗봇에서 가장 발생하기 쉬운 부분이고 일반적이기 때문에 사례로 선정 하였다.

4.1 전통적인챗봇과 ChatGPT 연계설정

4.1.1 ChatGPT-챗봇플랫폼 연동

ChatGPT와 챗봇 플랫폼과 연계하기 위해 챗봇의 API 관리모듈에서 ChatGPT의 API를 Assistant Chatbot의 API 관리기능을 통해 등록하여 연동될 수 있게 하였다.

OpenAI에서는 <Figure 4>와 같이 Chat, Edit, Images, Audio, Files, Moderations 등 다양한 <Figure 4> ChatGPT API Reference API를 제공하고 있다[OpenAI, 2023d].

<Figure 4> ChatGPT API Reference

이중에서 주어진 대화에 대한 응답을 생성해주는 Chat API와 프롬프트가 주어지면 모델이 관련 이미지를 생성해주는 Images API를 사용하였으며 또한 입력 텍스트가 주어졌을 때, 모델이 OpenAI의 콘텐츠 정책을 위반하는 것으로 판단하면 출력하는 Moderations API를 사용하여 금지하는 콘텐츠를 식별하고 이를 필터링하는 등 조치를 취할 수 있도록 하였다. 사용하는 모델로는 2023년 3월 1일 ChatGPT API가 추가 되어 발표된 gpt-3.5-turbo모델을 사용 하였다.

4.1.2 매개변수 설정 및 대화 설계

챗봇 플랫폼에서 ChatGPT와 연계하기 위해서는 ChatGPT의 어떤 API를 실행할 것인지, 어떤 값을 전달할 것인지 매개변수(Parameter) 정의가 필요하다[Jeong, 2023a]. 챗봇 플랫폼(이하, Assistant)이 ChatGPT과 주고받을 API 매개변수는 ChatGPT의 <Figure 4>를 참고하여 Assistant의 API 기능에 <Figure 5>와 같이 설정하였다.

<Figure 5> Chatbot API Configuration

<Figure 5>는 챗봇에서 ChatGPT의 Chat API를 콜(Call)하기 위한 Input 매개변수를 설정하고, ChatGPT에서는 해당 질문을 에 대한 답변을 생성 완료한 후 챗봇으로 결과 메시지를 돌려주는 경우이다.

Assistant의 API Function Card 설정 팝업에서 입력 매개변수 중 질문은 message.content 변수값에 할당되어 ChatGPT에 전달되고 ChatGPT에서는 생성된 결과 메시지를 choices.message.content변수에 결과값을 담아서 Assistant의 출력 매개변수인 answer에 담아 메시지를 보여준다.

동일한 방법으로 본 구현에서 사용한 나머지 ChatGPT API인 Images 생성과 Moderations API도 <Figure 6>을 참조하여 동일한 방법으로 설정하였다.

<Figure 6> ChatGPT Images / Moderation API Request

Assistant의 대화시나리오 설계에서는 업무에 관련된 질문이 들어 왔을 때는 전통적인 챗봇인 Assistant에서 의도를 파악하여 업무관련 대화모듈을 실행하고, 업무와 무관하거나 의도를 파악하지 못했을 경우에는 ChatGPT에 추가 질의를 할 수 있도록 <Figure 7>과 같이 대화 설계를 하였다.

<Figure 7> Assistant Dialog Design

질문이 들어오면 가장 먼저 ChatGPT의 Moderations API Module을 통해 부적절한 질문의 유·무를 판단해서 정상적인 질문의 경우 Chat API를 통해 답변을 해주고, API flagged값이 ‘true’인 경우에는 부적절한 질문으로 판단하여 답변을 할 수 없다는 내용의 Assistant에서 작성한 답변을 내보내도록 설계 하였다. 또한 이미지관련 질문이 들어왔을 경우에는 이미지관련 의도를 별도로 설계하여 Images API가 포함된 관련 의도모듈을 실행하여 ChatGPT 답변을 보여주도록 설계 하였다.

4.2 구현 결과

본 적용 사례는 3장에 제안한 부분을 고려하여 업무지원봇에 ChatGPT연계를 구현하였다. 챗봇에서 Smalltalk 등 업무 봇설계 범위를 벗어난 질문 시, 의도설계 내용에 없을 경우에는 ChatGPT에게 추가질의 하여 답변 제공한다.

4.2.1 업무챗봇 온보딩

전통적인 업무챗봇의 온보딩과 챗봇을 통한 업무질의 화면은 <Figure 8>과 같이 구현하였으며 관련내용은 아래와 같다.

<Figure 8> Biz. Support Chatbot Onboarding

① 업무와 관련된 질문을 하는 경우: “과제등록 해줘~~”

② Assistant 업무봇 설계 범위내 질문시에 의도설계 내용이 있을 경우에 Assistant에서 의도설계한 답변제공 : 과제등록 의도를 파악하여 해당 업무화면을 폼형태로 입력하여 등록할 수 있게 제공

4.2.2 ChatGPT 답변

업무범위를 벗어난 질문의 경우에는 ChatGPT에 추가 질의하여 답변을 제공할 수 있도록 <Figure 9>와 같이 구현하였으며 관련내용은 아래와 같다.

①범위를 벗어난 대화질문을 하는 경우

② Assistant - ChatGPT Chat API 연계한 ChatGPT 답변제공

③ 범위를 벗어난 이미지 관련 질문을 하는 경우

④ Assistant - ChatGPT Images API 연계한 ChatGPT 답변제공

<Figure 9> Answers from ChatGPT

4.2.3 Smalltalk 답변처리

Smalltalk중에 업무봇과 관련된 내용들은 대화설계 사전에 미리 정의하여 ChatGPT에서 부정확한 답변을 하는 것을 줄일 수 있게 <Figure 10>과 같이 구현하였으며 관련내용은 아래와 같다.

① 업무와 관련된 smalltalk 질문을 하는 경우: “너는 누구니?” → 업무봇에 대한 질문

② 잘못된 답변: Assistant – ChatGPT Chat API 연계한 ChatGPT가 생성한 답변

③ Assistant에 업무 관련된 Smalltalk를 학습시킨 후, 재질문 하는 경우 : Assistant 업무봇에서 학습된 답변제공

<Figure 10> Smalltalk Answers

<Figure 11>에서는 발화문에서 준비된 Assistant의 의도를 찾지 못하였을 경우, 먼저 ChatGPT의 Moderation API연동하여 자살충동, 혐오 등 부적절한 발언이 있는지 확인하고 해당될 경우에는 ChatGPT에서의 답변을 차단하도록 하고 Assistant 챗봇에서 준비된 답변이 안내되도록 하였다.

① ChatGPT에서는 API 점검항목 7개에 대한 해당유무 체크(해당시 true값)

② Assistant 에서는 ChatGPT의 7개 점검 항목중 하나라도 true값이 있으면 ChatGPT 답변을 차단 후, Assistant에서 준비된 답변제공

<Figure 11> Moderation API Answers

이렇듯 ChatGPT의 주요한 3가지 API를 활용하여 전통적인 챗봇인 Assistant챗봇과 역할을 나누어서 자연스럽게 대화가 진행되도록 시나리오를 구성하여 구현하였다.

5. 결론 및 논의

본 연구에서는 ChatGPT와 전통적인 챗봇 시스템을 연계하여 Conversational AI를 활성화하는 방법을 제안하였다. ChatGPT와 전통적인 챗봇 시스템을 연계함으로써 챗봇의 답변이 확장되었다. 특히, ChatGPT를 활용하여 응답 생성 및 대화 흐름 제어를 수행하면서, 전통적인 챗봇 시스템의 한계를 보완할 수 있었으며 이를 통해 더욱 자연스러운 대화를 생성할 수 있었다.

연구결과를 통해 ChatGPT와 전통적인 챗봇 시스템을 연계하는 것이 대화의 질을 향상시키고, 답변의 확장으로 사용자가 답변을 받을 수 있는 경우의 수를 높일 수 있다는 것을 확인하였다. 그러나 연계 방법에 따라 답변 품질의 차이가 있을 수 있으며, 특히 연계사례가 부족하여 구축 방법을 찾기 어려운 어려움이 있었다. 따라서 본 연구에서는 구축 방법을 실제 구현 사례를 바탕으로 제시하였으며, 보다 쉽게 연계 방법을 이해하고 구축할 수 있도록 하였다. 또한, 본 연구에서는 ChatGPT와 전통적인 챗봇 시스템을 연계하여 대화의 의도 파악, 대화 흐름 제어, 응답 생성 등의 과정에서 더욱 정확하고 효과적인 대화 시스템을 구축할 수 있다는 것을 제안하였다.

본 논문에서 제안하는 ChatGPT와 전통적인 챗봇을 통합한 방법은, 사용자 경험을 향상시키기 위한 새로운 시도이다. 이를 통해 기존의 챗봇 서비스에서 발생하였던 문제점을 해결하고, 사용자와의 자연스러운 대화를 가능케 하는 기술적인 발전이 이루어질 것으로 기대된다. 더불어, 이러한 기술적인 발전은 다양한 분야에서 활용될 수 있을 것이다.

그러나 대화시나리오 구성 및 연계 방법에 따라 대화품질 차이가 있을 수 있으며, 전통적인 챗봇 시스템의 한계를 완전히 극복할 수는 없었다. 또한 일부 서비스유형에만 적용 방안을 제시하였기 때문에, 다양한 분야의 서비스유형에서의 적용 가능성과 실제 구현 방법을 보다 구체적으로 연구해 볼 필요가 있다. 또한, ChatGPT와 전통적인 챗봇 시스템의 연계 방법 또한 이 연구에서 제시한 방법 외에도 다양한 방식이 존재할 수 있으며, 해당 방법들의 효과와 한계점을 분석하는 연구도 필요하다.

또한, 본 연구에서는 ChatGPT와 전통적인 챗봇시스템의 연계 방법에 대한 구현을 수행하였으나, 이에 대한 정량적인 평가를 수행하지는 않았다. 따라서, 본 연구에서 제시한 방법을 토대로 구현한 시스템에 대한 정량적인 평가를 수행하고, 향후 보완해야 할 점을 도출하는 연구가 필요하다. 그리고 ChatGPT와 전통적인 챗봇 시스템의 연계 방법을 보다 효과적으로 개발하기 위해서는, ChatGPT의 자연어 생성 능력을 극대화하고, 전통적인 챗봇 시스템의 의도 파악 능력을 보완하는 기술적인 연구가 필요하다. 특히, 적은 양의 학습 데이터로도 좋은 성능을 발휘할 수 있는 다양한 생성형 AI 기술이 활발히 논의되고 오픈되어 챗봇에 적용한다면 보다 나은 결과를 얻을 수 있을 것으로 보인다.

마지막으로, 이 연구를 기반으로 새로운 방식의 Conversational AI 연구를 진행할 수 있을 것으로 기대한다. 예를 들어, ChatGPT, Bard 같은 다양한 생성형 AI 챗봇과 전통적인 챗봇 시스템을 연계하여, 의료 분야나 교육 분야 등에서의 실용적인 대화 시스템을 개발하는 것이 가능할 것이다. 또한, 다양한 데이터셋을 활용하여 ChatGPT를 보다 더 발전시키는 연구도 필요하다.