ChatGPT는 목적형 챗봇을 절대 대체할 수 없다. 이유와 활용법은?

사용자의 요청에 놀라울 만큼 답변하며 그 활용도 또한 광범위해 주목받고 있는 ChatGPT, 실제로 ChatGPT가 목적형 챗봇을 대처할 수 있을까?
그럴 수 없다면 무엇 때문이며 어떻게 활용하는 게 좋을까?

목적형 챗봇이 무엇인가요?

목적형 챗봇은 다양한 비즈니스에서 사용되고 있는 챗봇으로 사용자의 의도에 맞게 시나리오가 동작해 답변을 제공하며 자연어 처리, 지식 데이터 베이스, 시스템 API 액세스를 통한 신뢰도 있는 응답을 제공하고 있습니다.

또한 사용자의 질문 의도를 정확하게 이해하기 위한 기술을 핵심으로 다루고 있어 실제로 애플의 시리, 네이버의 클로바, 구글 홈은 물론 고객센터, HR 챗봇 등 다양한 목적으로 널리 사용되고 있습니다.

ChatGPT는 무엇인가요?

ChatGPT는 미국의 벤처기업 OpenAI가 개발한 프로토타입 대화형 인공지능 챗봇으로 GPT-3의 개선판인 GPT-3.5를 기반으로 만들어졌으며 지도학습과 강화 학습을 모두 사용해 파인 튜닝했습니다.
2022년 11월 프로토타입으로 시작되었으며 다양한 지식 분야에서 상세한 응답과 정교한 답변으로 인해 집중 받고 있습니다. 다른 챗봇들과 달리 ChatGPT는 주고받은 대화의 문맥을 기억할 수 있으며 보고서, 파이썬 코드 등을 인간과 같이 상세하고 논리적인 글을 만들어 낼 수 있습니다.

                                 출처 : 위키백과 (https://ko.wikipedia.org/wiki/ChatGPT)

이러한 ChatGPT는 공개 직후 대중의 집중적인 관심을 받았으며 하루 평균 1300만 명의 유저가 모일 정도로 수많은 사용자들이 개인적인 질문과 노래 가사, 논문, 심지어 대학 과제 등을 위해 ChatGPT를 이용하고 있습니다.

(자료 출처 : UBS)

또한, ChatGPT는 단 2개월 만에 1억 명의 유저를 모으는 믿기 힘든 기록을 세웠는데, 1억 유저 달성은 현재 전 세계적으로 유행하고 있는 스트리밍 서비스인 틱톡이 9개월, 인스타그램은 2년 6개월이 걸린 기록이기도 합니다.

현재는 하루 수천만 명의 유저가 ChatGPT를 이용해 질문하고 답변에 관한 각자의 경험을 공유하고 있고, 이 답변들의 종류는 개인적인 단순 질문부터 노래 가사, 논문, 심지어 대학 과제까지 광범위하게 쓰이고 있습니다.

그렇다면, 과연 ChatGPT가 온라인 고객센터와 같은 목적형 챗봇을 대신해 보다 나은 서비스와 높은 수준의 툴로 활용될 수 있을까요?

결론부터 답하자면 ‘그렇지 않다’입니다.

목적형 챗봇 대신 ChatGPT만 사용하기에는..

부정확한 답을 할 수도 있습니다.

목적형 챗봇은 사용자의 질문을 이해하기 위한 AI기술을 핵심으로 개발되어 있으며 API와 지식 데이터 베이스 등을 기반으로 응답하기 때문에 질문의 의도를 정확하게 파악한다면 답변 역시 정확하게 제공할 수 있습니다. 이와 다르게 ChatGPT는 사용자의 질문을 기반으로 답변을 생성하기 때문에 부정확한 답을 할 수도 있습니다.

잘못 학습되어 있는 데이터가 있을 수도 있습니다.

학습되어 있는 데이터 자체에 오류가 있을 경우 오답을 정상적인 답변처럼 답할 수 있으며, 이런 문제는 정상적인 서비스와 정보 전달에 있어 치명적인 오해와 오류를 발생시킬 수 있습니다.

엔터프라이즈 환경에 적절하지 않습니다.

목적형 챗봇에서 대부분의 답변은 ChatGPT 같은 인공지능 모델이 생성한 데이터가 아닌 시스템 간의 연동을 통해 구성해야 될 경우가 많습니다.  쇼핑몰에서 배송 조회 같은 업무를 미리 학습한다고 알 수 있는 것은 아닙니다.

또한 ChatGPT 같은 초거대 모델은 GPU, CPU, Memory 등의 상당한 양의 컴퓨팅 리소스를 요구하고 언제든지 스케일 업, 아웃 가능한 환경에 적절합니다. 초기 투자 비용이 너무 과도해 예산 편성의 어려움이 있을 수 있습니다.

개인 정보 보호 및 보안에 많은 주의가 필요합니다.

기업 고객이 목적형 챗봇을 도입하는 과정에서 가장 고려하는 요소 중에 하나가 보안성인데 ChatGPT에는 여러 가지 주의해야 할 사항들이 있습니다.

먼저 학습 과정에 개인 정보, 기업 보안 및 기밀 사항 등의 내용이 포함된 채 모델이 생성될 수 있는 가능성이 존재하며 이를 검수하는 프로세스가 필요합니다. 아무리 촘촘하게 프로세스를 구축한다 해도 사고로 이어질 가능성이 있습니다.

이런 문제를 회피해 모델을 구성한다고 해도 이 데이터를 언제까지 사용하고 보존해야 할지 그 기준이 모호합니다.

또한 생성된 모델을 제3자에게 제공하거나 파트너 기업에게 제공할 때도 위의 문제가 모두 발생할 가능성이 있습니다.

엔터프라이즈 챗봇 - ChatGPT와 목적형 챗봇

ChatGPT는 주어진 프롬프트 또는 컨텍스트 기반으로 텍스트 생성을 목적으로 개발된 ‘AI 모델’입니다.

이는 사전에 학습한 광범위한 데이터를 기반으로 답변을 하는 분야에는 훌륭하지만 오래되거나 부정확한 정보가 데이터에 담겨있을 가능성이 있습니다.

이런 이유로 고객의 의도를 정확히 파악하고 처리해야 하는 목적형 챗봇에  ChatGPT를 단독으로 사용하기에는 어려움이 있습니다.

그렇다면 목적형 챗봇에 ChatGPT를 활용할 수 있는 방법은 없을까요?

ChatGPT는 목적형 챗봇과의 연동으로 시너지를 발휘할 수 있습니다.

기존에 정해 놓은 시나리오 대로 답하는 목적형 챗봇에 방대한 ChatGPT의 데이터가 더해져 더욱 다양하고 넓은 분야의 답변을 제공받을 수도 있습니다.

실제로 여러 개인과 기업에서 ChatGPT를  활용해 서비스를 준비하거나  많은 연구/테스트를 진행하고 있습니다.

그렇다면 ChatGPT를 목적형 챗봇에서 어떻게 활용할 수 있는지 살펴보겠습니다.

ChatGPT 활용법

ChatGPT는 아직 GPT-3와 같은 API가 공개되어 있지 않습니다.(2023년 02월 17일 기준) ChatGPT도 조만간 API가 공개될 예정이며 이를 가정하고 작성했습니다.

기존에 사용 중인 NLU 시스템과 통합해 활용할 수 있습니다.

사전에 학습된 언어 모델 혹은 각 기업의 데이터로 Fine-Tuning한 모델을 이용해 사용자의 의도를 파악하는데 활용 가능합니다. 기존에 사용 중인 NLU 시스템과 함께 사용한다면 더 정확한 의도 분류가 가능합니다.

정보성 답변의 최신성을 보장할 수 있습니다.

별도의 학습 과정 없이 기업이 보유한 문서(DOC, PDF 등)를 기반으로 답변을 생성할 수 있습니다. FAQ류의 답변 최신성 보장이 어려웠던 목적형 챗봇의 단점을 보완할 수 있습니다.

학습 데이터, 테스트 데이터를 생성할 수 있습니다.

수작업으로 진행하던 의도 분류 학습 데이터와 테스트 데이터를 빠른 시간에 만들어 낼 수 있습니다. 이 데이터를 이용해 의도 분류 정확도를 높일 수 있습니다.

Slot 및 Entity를 자동으로 식별할 수 있습니다.

초거대 모델을 이용해 대화 진행에 필요한 Slot과 Entity를 자동 식별할 수 있습니다. 목적형 챗봇의 일부 Entity는 사전(dictionary)에 등록 후 사용해야 합니다. 수 많은 유의어를 등록/관리 해야하는 부담을 줄일 수 있습니다.

결론

ChatGPT는 챗봇 대화 품질을 개선할 수 있는 기술임은 분명하며 노래 가사, 블로그 작성, 번역 등의 창의적인 일을 사람과 유사하거나 더 나은 결과를 보여줄 때도 많습니다.

하지만 목적형 챗봇을 사용하는 고객은 자신이 겪고 있는 문제를 신속하고 효과적으로 해결하기를 기대합니다. 어쩌면 이것이 ChatGPT가 목적형 챗봇을 대체할 수 없는 가장 큰 이유일 것 같습니다.

스윙챗과 같은 대화형 AI 플랫폼과 ChatGPT를 함께 이용하면 고객에게 사람과 이야기하듯 자연스러운 대화를 통해 문제를 해결하는 경험을 제공할 수 있습니다.

“Ready-made Chatbot” 스윙챗은 다양한 비즈니스에 활용 가능한  템플릿을 기반으로 대화를 설계할 수 있으며 이 과정에 NLU, GPT, Google Dialogflow 등의 AI 기술을 접목할 수 있습니다. 또한 카카오톡, 페이스북/인스타그램, 슬랙 등의 메신저에서 동작할 수 있고 UiPath, Automation Anywhere, SAP, 사내 Legacy System 등과 연동이 가능합니다.