AI 챗봇이란 무엇인가요?

Tena • Hyeri Jo, Content Marketer

  • 개념허브

챗GPT 이후, 모두가 AI를 이야기하고 있습니다.

비즈니스 현장에서도, 개인적인 용도로도 생성형 AI 툴을 활용하는 일이 흔하고 자연스러워지고 있죠. 하지만 AI와 머신러닝, 딥러닝, LLM 같은 개념들, 많이는 언급되는데, 쉽고도 정확하게 설명하는 콘텐츠는 많지 않은 것 같아요. 채널톡 콘텐츠팀도 AI가 항상 낯설고 어려운데요. 그래서 시작합니다.

CX 업계에서 이해하면 좋을 AI 개념들을 쉽게 풀어 소개한 '개념 허브' 시리즈!

네 번째는 바로 'AI 챗봇'입니다.

AI 챗봇의 정의

AI 챗봇에 대해 이야기하기 전에, 우선 ‘챗봇’에 관해 이야기해 보죠.

넓은 의미의 ‘챗봇’은 채팅(chatting)과 로봇(robot)의 합성어로, 사람과 대화하면서 질문에 응답하거나 정보를 제공하는 프로그램입니다. 사실 AI와 챗봇은 그 자체로 매우 관련이 깊습니다. 사람들이 AI를 상상할 때 가장 흔하게 떠올릴 수 있는 형태가 다름아닌 '나와 대화를 나눌 수 있는 존재'였기 때문인데요. AI 연구의 극 초반인 20세기 중반부터 챗봇의 개념이 존재했을 정도입니다.

혹시 '이미테이션 게임(imitation game)'이라는 영화 제목을 들어 보셨나요? 이 영화는 AI의 선구자라고 불리는 앨런 튜링의 이야기를 담고 있습니다. 제목인 ‘이미테이션 게임’, 즉 '흉내 게임'은 튜링이 만들어낸 유명한 AI 성능 테스트의 명칭입니다. 사람과 구분이 가지 않을 정도로 감쪽같이 채팅을 할 수 있는 AI라면 '지능이 있다'고 판단할 수 있다는 내용인데요. 무려 1950년에 쓰인 AI 분야의 기념비적인 논문에서 AI의 형태를 ‘챗봇’으로 설정하고 있는 겁니다. [1]

이후 일라이자(ELIZA, 1966)를 시작으로 왓슨, 심심이, 이루다를 거쳐 챗GPT와 ALF(알프)까지, 많은 AI가 챗봇의 형태로 대중 앞에 나타났습니다. 스마트폰의 보급으로 모바일 시대가 시작되고 사람들이 채팅 형식에 익숙해지면서 챗봇의 중요성과 활용도는 서서히 커져 갔죠. [2] 여기에 2016년 ‘알파고’가 프로 바둑기사 이세돌을 이기는 사건이 벌어지면서 AI, 그리고 챗봇에 대한 관심은 기하급수적으로 증가했습니다.

아래 그림은 2000년 이후 ‘챗봇’ 키워드가 '스코퍼스'라는 학술 데이터베이스에서 검색된 양의 추이입니다. 2016년을 기점으로 가파르게 우상향하는 모습을 볼 수 있습니다. [3]

(출처: An Overview of Chatbot Technology)

시간이 흘러 AI 기술이 질적으로 발전하면서 ‘챗봇’의 스펙트럼도 넓어졌습니다. 이제는 ‘챗봇’이라고만 쓰면 보다 좁은 의미로 쓰일 때가 많은데요. 보통 과거의 단순한 챗봇, 그러니까 ‘규칙 기반 챗봇(rule-base chatbot)’을 의미하는 경우가 많습니다. 이와 대비해 ‘AI 챗봇’이라고 하면 보다 최신의, 딥러닝 기술을 기반으로 한 챗봇을 의미할 때가 많죠.

규칙 기반 챗봇이란 사람이 수많은 대화 규칙을 일일이 입력해서 만든 챗봇입니다. 시키지 않은 답변을 할 걱정은 없지만, 답변의 범위가 한정적이고 단조로울 수밖에 없죠. 사실 규칙 기반 AI도 엄밀히 말하면 AI의 한 종류이고, 따라서 규칙 기반 챗봇도 'AI 챗봇'이 아니라고는 말할 수 없습니다. 지금 기준으로는 신기하지 않은 과거의 기술이라는 차이가 있을 뿐이죠. 만약 2024년에 어떤 회사가 '우리는 AI 챗봇을 만듭니다'라고 할 때, 딥러닝 기반이 아닌 챗봇을 'AI 챗봇'이라고 표현하기는 어려울 겁니다. 사람들이 AI 챗봇에 기대하는 수준이 그렇게 낮지 않으니까요.

이런 현상을 일컫는 용어도 따로 있습니다. ‘AI 효과(AI Effect)’라는 용어인데요. 과거에는 AI로 불렸지만 실용화되면서 더 이상 AI로 여겨지지 않는 현상입니다. 예를 들어 지금은 기계 번역이 전혀 신기하다거나 ‘인공지능’이라고 여겨지지 않죠. 이렇게 지능이 있어야 처리할 수 있다고 여겨졌던 어려운 과제를 컴퓨터가 해낼 수 있게 되면서, 그간 가졌던 환상이 사라지고 당연하게 여기게 되는 역사가 반복되고 있습니다.

“인공지능 자체는 아직 실현되지 않았지만 그만큼 시행착오의 부산물로 다양한 모습의 인공지능이 만들어져 온 것이다. (중략) 이러한 부분들은 예전에 인공지능이라고 불렀지만 실용화되어 하나의 분야를 구성하면서 이제 더 이상 인공지능이라고 불리지 않게 되었다. 이것은 ‘AI 효과’라고 불리는 흥미 깊은 현상이다. 많은 사람들이 그 원리를 알아버리면 ‘이것은 지능이 아니다’라고 생각하는 것이다.” [4]

이 글에서도 AI 챗봇을 규칙 기반 챗봇과 구분되는 용어로 설명하려고 합니다. 규칙 기반 챗봇이 사전에 학습된 상황과 답변을 기반으로 응답한다면, AI 챗봇은 스스로 자연어를 인식하고 상황에 알맞은 답변을 생성해 응답합니다. 다만 규칙 기반 챗봇과 AI 챗봇을 이렇게 무 자르듯 설명하기는 좀 어려운데요. 좀더 쉬운 이해를 위해 챗봇의 종류와 사례별 원리를 하나씩 설명해 보겠습니다.

최근의 ‘AI’ 챗봇들이 기반으로 삼고 있는 딥러닝 기술, 특히 트랜스포머 구조와 LLM이 궁금하다면 아래 링크를 클릭해 주세요.

AI 챗봇의 종류

(출처: Survey on Chatbot Design Techniques in Speech Conversation Systems)

AI 챗봇은 대화 에이전트(conversational agent), 혹은 대화 시스템(dialogue system)이라고도 부릅니다. 대화에는 여러 목적이 있을 텐데요. AI 챗봇 역시 목적에 따라 크게 두 가지로 나눌 수 있습니다.

첫 번째는 목적 지향형(task-oriented)입니다. 사용자의 요청을 처리해 주는 데에 특화된 음성 비서들을 들 수 있겠네요.

두 번째는 자유 주제형(non-task oriented)입니다. 주로 일상 대화를 위해 만들어진 챗봇들이 이 유형에 속하는데요. 많이들 아실 만한 예시로는 스캐터랩의 '이루다'가 있습니다.

보통 챗봇의 분류로 언급되는 것은 이 정도입니다. [5] [6] 하지만 이 글에서는 조금 더 깊게 들어가 볼까요.

(출처: Survey on Chatbot Design Techniques in Speech Conversation Systems)

위의 그림은 2019년 쓰인 한 논문 [5] 에서 언급한 챗봇의 분류입니다. 크게 네 가지 기준에 따라 챗봇을 분류하고 있습니다.

상호작용 모드(interact mode)

(1)글자(text)로 상호작용하느냐, (2)음성(voice)으로 상호작용하느냐. 후자는 음성봇, 혹은 보이스봇이라고도 불립니다. 우리가 흔히 아는 시리나 빅스비 같은 음성 비서들이 대표적인 보이스봇이죠.

지식 도메인(knowledge domain)

챗봇이 어떤 주제에 대한 대화가 가능한지에 따라서도 분류할 수 있습니다. (1)어떤 주제로든 대화가 가능하면 오픈 도메인(open domain) 챗봇, (2)특정 전문 주제에 대해서만 대화가 가능하면 클로즈드 도메인(closed domain) 챗봇입니다.

목표(goals)

위에서 이 목표에 따른 분류가 가장 많이 언급된다고 설명했드렸죠. (1)목적 지향형(task-oriented)(2)자유 주제형(non-task oriented)인데, 자유 주제형 챗봇의 경우 자연스럽게 다양한 주제의 대화를 다룰 수 있어야 하니 '오픈 도메인' 분류에 속할 가능성도 큽니다.

설계 방식(design approach)

입력을 처리하고 출력을 생성하는 방식, 즉 작동 방식에 따른 분류입니다.

(1) 규칙 기반(rule-based) 챗봇은 사람이 일일이 정해서 짜넣은 규칙에 기반해 작동합니다. 오래 전부터 존재했던 방식이지만 입력 데이터에 작은 오타나 흐트러짐만 있어도 인식을 잘 하지 못하며, 단조로운 대답만 하는 한계가 있습니다.

(2) 검색 기반(retrieval-based) 챗봇은 규칙 기반보다 발전한 버전입니다. 머신러닝 중에서도 주로 통계 기반의 기법들을 주로 활용하는데요. ‘응답 데이터베이스’에서 ‘응답 선택 알고리즘’을 통해 적절한 답변을 찾아 오는 방식입니다.

(3) 생성 기반(generative-based) 챗봇은 딥러닝 기법을 활용해 보다 사람 같은 자연스러운 답변을 내놓을 수 있습니다. 생성 기반 챗봇은 실현하기 워낙 까다로운 챗봇으로 인지되었지만 최근 2~3년 사이에는 이 생성 기반 챗봇에 해당되는 서비스들이 쏟아져 나오고 있는데요.

딥러닝 기반의 챗봇은 거의 검색 기반 챗봇과 생성 기반 챗봇에 해당된다고 할 수 있습니다. 특히나 2022년 챗GPT라는 강력한 생성 기반 챗봇이 등장한 이후로는 AI 챗봇이라고 하면 주로 ‘생성 기반 챗봇’을 의미하게 되었습니다.

AI 챗봇의 원리

(출처: An Overview of Chatbot Technology)

위의 그림은 AI 챗봇의 일반적인 구조입니다. 물론 서비스에 따라 조금씩 다르겠지만 큰 틀은 비슷합니다. 챗봇이 사용자로부터 ‘AI의 의미가 무엇인가요?’라는 질문을 받았다고 해 볼까요. 이 '입력'을 AI 챗봇이 어떻게 처리하는지 따라가 봅시다.

첫 번째 단계는 ‘입력 처리(input processing)’입니다. 사실 컴퓨터는 숫자밖에 이해하지 못합니다. 사람의 말, 즉 '자연어'는 컴퓨터가 이해할 수 없는 데이터이기 때문에 변환 작업이 필요하죠. 이때 필요한 기술 분야를 '자연어 처리(NLP, Natural Language Processing)라고 합니다. 입력된 문장을 단어, 문장 단위로 분리하는 토큰화(tokenization)과 단어의 품사를 식별하고 문장 구조를 파악하는 태깅(tagging) 작업 등이 진행됩니다.

두 번째 단계는 ‘의도 인식(Intent Recognition)'입니다. 사람의 말을 컴퓨터가 이해할 수 있는 데이터로 바꿨다면, 이 데이터를 정리해야겠죠. 사용자가 원하는 바, 즉 '의도(intent)'를 분석하고 정보(entity)를 정리합니다. 이 단계를 자연어 인식(NLU, Natural Language Understanding)이라고도 합니다.

세 번째 단계는 ‘대화 관리(dialogue management)’ 시스템 작동입니다. 대화 관리 시스템은 대화의 전반적인 흐름을 관리하고 판단합니다. 사용자가 요청한 동작을 수행(Action execution)하기도 하고, 추가 정보가 필요하다면 외부 데이터 소스(Data Source)에 정보를 요청(information retrieval)하거나 사용자에게 추가 질문을 던지기도 합니다.

네 번째 단계는 ‘응답 생성(Response Generation)’입니다. 컴퓨터가 사용자의 말을 이해하고, 어떤 응답을 해야 할지 판단까지 했다면 이제 응답을 준비해 내보내야겠죠. 이 단계에서 컴퓨터가 대답하기 위해 쓰는 기능을 ‘자연어 생성(NLG, Natural Language Generation)’이라고 부르는데요. 응답을 준비하는 방법은 보통 앞에서 언급한 규칙 기반, 검색 기반 혹은 생성 기반 세 가지 중 하나입니다. [3] [7]

AI 챗봇의 사례

심심이(2002)

심심이는 2002년 출시된 챗봇입니다. 2002년이면 스마트폰은 고사하고, 아직 개인 휴대폰조차 흔하지 않은 시기입니다. 때문에 심심이는 출시 당시만 해도 휴대폰 문자로 이용하는 서비스였죠.

이렇게 오래된 챗봇이기 때문에 당연히 딥러닝 기술에 기반해 만들어지지는 않았습니다. 아마도 초반에는 '규칙 기반 챗봇'이었을 것으로 추정되는데요. 2024년 기준으로 심심이 제작사에서는 심심이를 '검색 기반 챗봇'이라고 설명하고 있습니다. 기술의 발전에 심심이도 영향을 받은 것이 아닌가 싶네요.

공식 블로그에 설명된 심심이의 원리를 살펴볼까요. 심심이는 사람이 직접 구성한 대화 시나리오 데이터인 ‘토크셋(talkset)’을 기반으로 답변합니다. 토크셋은 사용자들이 가르친 질문 문장(Qtext)과 답변 문장(Atext)의 쌍으로 이뤄집니다. 사용자가 질문 문장을 제공하면, 심심이가 답변 문장을 제공하도록 학습하게 되죠.

(출처: How an AI Chatbot Works: A Quick Guide to SimSimi’s Architecture)

심심이는 ‘AICR’이라고 불리는 대화 처리 엔진으로 토크셋을 활용합니다. AICR은 방대한 대화 세트 저장소에서 가장 적절한 응답을 선택하는 역할을 합니다. 사용자가 심심이에게 말을 걸면 문장이 AICR로 전달되고, AICR이 대화 세트 저장소에서 전달 받은 사용자 문장과 관련성이 높은 질문을 찾아 후보군을 만들죠. 이어서 가장 적절한 대화 시나리오를 선택해 이 대화 세트의 답변 문장을 이용해 대답합니다. [8]

2024년 기준으로는 이 대화 시나리오가 무려 1억 4000만 건 이상 쌓여서, 딥러닝을 사용하지 않은 챗봇임에도 꽤나 풍부한 답변을 해낸다는 평가를 받고 있습니다. 역으로 딥러닝 기반 챗봇들에게서 나타나는 할루시네이션이 나타나지 않는 ‘안전함’과 딥러닝을 활용할 필요가 없는 ‘비용’ 면에서의 장점을 어필하고 있죠.

시리(2011)

음성 비서의 대표격, 시리(Siri)는 2011년 아이폰 4s와 함께 발표되었습니다. 사실 시리의 기술은 뿌리가 꽤 깊습니다. 미국 국방부 산하의 연구개발 기관인 DARPA에서 지원했던 미국 역사상 최대 AI 프로젝트, ‘CALO’가 전신이거든요. CALO를 운영하던 비영리 연구기관 SRI는 2007년 시리의 작업을 시작했고, 2008년에 독립 사업으로 분사했습니다. 시리의 기술을 보고 한눈에 반한 애플이 2010년 4월 이 회사를 인수했죠.

초기 시리는 ‘은닉 마르코프 모델(HMM)’이라는 통계적 모델을 썼습니다. [9] 은닉 마르코프 모델은 1966년 처음 개발된 이후 이후 음성 인식, 기계 번역 등 여러 분야에 활발하게 쓰인 모델이었지만, 긴 문장을 처리하기에는 한계가 있었죠.[10]

애플은 2014년부터 시리의 모델을 딥러닝 기반으로 바꾸기 시작했습니다. 물론 한번에 전체 구조가 바뀐 것은 아니고, 오랜 시간에 걸쳐 조금씩 딥러닝으로의 변화가 이루어졌습니다. [11] 2016년 ‘iOS 10’을 출시할 때에는 딥러닝 기술을 탑재했다고 대대적으로 홍보할 정도였죠. [12] 2017년 애플의 머신러닝 블로그에 올라온 글을 보면 ‘시리야’라고 불렀을 때 반응하는 ‘웨이크 업’ 단계에도 DNN(Deep Neural Netswork)이 쓰였음을 알 수 있습니다. [13]

(출처: Hey Siri: An On-device DNN-powered Voice Trigger for Apple’s Personal Assistant)

아래 이미지는 2023년 애플의 머신러닝 블로그에 올라온 시리의 구조도입니다. 사람이 ‘시리야’라고 부르면 바로 작동하는 것이 중요한 요소이기 때문에 음성을 추적하는 ‘디텍터(Detector)’, 사용자의 음성인지 판단하는 ‘체커(Checker)’와 ‘스피커 ID(SpeakerID)’ 시스템이 붙어 있는 것을 볼 수 있습니다. [14]

2024년 6월 열린 WWDC에서 애플은 시리에 챗GPT가 통합된다는 계획을 밝혔습니다. 2024년 아이폰에 탑재되는 iOS 18에 챗GPT가 통합된다는 건데요. 이 기능이 활성화되면 사용자는 시리로 챗GPT에 직접 질문을 보낼 수 있게 됩니다. 또한 텍스트 메시지, 이메일을 작성할 때 챗GPT로 지원을 받을 수 있게 된다고 하죠. [15]

이루다(2020)

이루다는 2020년 국내 스타트업 ‘스캐터랩’에서 선보인 AI 챗봇입니다. 친밀한 대화 자체를 목적으로 하는 ‘AI 컴패니언’을 표방하는 AI 챗봇으로, 자유 주제형 챗봇에 속하며, 딥러닝을 활용했습니다. 한국 대중이 아는 ‘AI 챗봇’의 가장 대표적인 형태라고 말해도 될 것 같습니다.

그런데 이루다는 2020년에 나온 1.0과 2022년 나온 2.0이 조금 다릅니다. 1.0은 응답 데이터베이스에서 응답을 고르는 ‘검색 기반’이었으나 2.0은 생성 모델 ‘Luda Gen 1’을 적용한 ‘생성 기반’이었죠.

(출처: Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 1편 - 생성 기반 챗봇)

이는 이루다가 보다 생생한 답변을 할 수 있도록 하기 위함이었는데요. 실제로 시간과 화자를 고려한 답변을 생성하고 중/단기 기억력이 좋아진 것은 물론, 스캐터랩이 예상치 못한 삼행시, 초성 퀴즈 같은 놀이를 할 정도로 성능이 좋아졌습니다. [16] [17]

챗GPT(2022)

챗GPT는 오픈AI에서 만든 AI 챗봇입니다. 2022년 11월 공개된 이후 놀라운 성능으로 전 세계를 깜짝 놀라게 했죠. 이후 GPT-4, GPT-4o 등 업그레이드 버전이 계속해서 공개된 상태입니다. 참고로 챗GPT가 하도 유명해지다 보니 ‘챗봇’과 ‘챗GPT’ 자체를 헷갈리는 사람도 많은데요. 챗GPT는 챗봇의 한 종류입니다. 오픈AI가 GPT-3의 다음 버전인 GPT-3.5를 챗봇 형태로 내놓은 것이죠.

챗GPT는 대표적인 생성 기반 챗봇이라고 할 수 있습니다. 챗GPT와 생성형 AI에 관심이 있다면 '트랜스포머'라는 단어를 들어 보셨을 수도 있는데요. 트랜스포머는 2017년 등장한 이후 현재까지 가장 효과적이라고 평가받는 딥러닝 모델입니다. 오픈AI의 GPT 시리즈는 모두 트랜스포머 모델의 일부분을 응용해서 만들어졌습니다. GPT 시리즈의 모든 답변은 사람이 일일이 입력한 것이 아니라, 딥러닝 기법으로 학습된 대규모 언어 모델(LLM)에 의해 생성된 것들입니다.

모델

매개변수

학습 데이터 크기

발표

GPT

1억 1700만 개

미공개

2018년 6월

GPT-2

15억 개

40GB(웹 페이지 800만 개)

2019년 2월

GPT-3

1750억 개

570GB(원본 45TB)

2020년 6월

GPT 시리즈가 그토록 압도적인 성능을 보여주는 이유는 모델의 규모가 압도적으로 크고 학습한 데이터가 많기 때문입니다. 단순히 생각하면 '그러면 많은 데이터를 학습시키기만 하면 되는 것 아냐?'라는 생각이 들 수도 있지만, 몇 년 전까지만 해도 이만한 대규모 데이터를 소화할 수 있는 딥러닝 알고리즘이 존재하지 않았습니다.

오픈AI가 2018년 내놓았던 첫 번째 GPT는 그다지 큰 주목을 받지 못했지만 모델의 크기가 10배 이상 커진 GPT-2부터는 마치 사람이 쓴 것 같은 대답을 내놓기 시작했습니다. 처음에는 오픈AI가 악용을 우려해 모델을 공개하지 않았을 정도였죠. (몇 달 뒤에 ‘오용에 대한 증거가 나타나지 않았다’면서 공개하기는 했습니다. [17]

GPT-3은 GPT-2보다도 모델의 크기가 100배 이상 컸습니다. 아래 그림은 'How GPT3 Works - Visualizations and Animations’라는 포스팅 GPT-3의 원리를 표현한 그림입니다. GPT-3이 수많은 트랜스포머 디코더들로 이루어져 있는 것을 볼 수 있습니다. [18]

(출처: How GPT3 Works - Visualizations and Animations)

오픈AI는 GPT-3를 내놓은 이후 챗봇 제작을 추진했습니다. GPT 시리즈가 뛰어나기는 했지만 사람이 자연어로 내리는 어떤 지시에도 똑똑하게 대답하는 챗봇을 만들려면 별도의 과정이 필요했습니다. (1) 인간이 직접 작성한 데이터를 넣어서 지도학습. (2) 비교 데이터를 구축해서 보상 모델을 학습. (3) 강화 학습을 이용한 성능 강화.

이 모든 과정을 통틀어 인간 피드백 기반 강화학습(RHLF, Reinforcement Learning from Human Feedback)이라고 합니다. [19]

(출처: Training language models to follow instructions with human feedback)

이렇게 만들어진 모델이 ‘인스트럭트GPT(instructGPT)’입니다. 다만 인스트럭트GPT는 사람이 선호하는 대답을 학습했기 때문에 대답을 흥미롭고 다양하게 잘하기는 하지만, 잘못된 정보나 위험한 발언도 많이 하는 문제가 있었죠. 오픈AI는 GPT-3보다 조금 더 발전한 GPT-3.5에 RHLF를 적용하고, 안전 모듈(Safety)이라는 중재 역할 API를 도입해 챗GPT를 만들었습니다. [7]

알프(2024)

오픈AI ‘GPT 시리즈’의 히트 이후 많은 기업들이 GPT 모델들을 활용한 서비스를 내놓았습니다. GPT-3.5, GPT-4 등의 모델들은 기본 재료가 되고, 각 회사들이 이를 활용해 각자 다른 서비스들을 만들었다고 이해하시면 되는데요. 이 글에서는 그 중에서도 채널톡의 ‘알프(ALF)’를 소개하겠습니다.

알프는 한국의 B2B SaaS 기업 채널코퍼레이션에서 선보인 AI 챗봇입니다. 채널코퍼레이션은 고객 상담, 그러니까 CX를 중요하게 생각하는 기업들이 주로 쓰는 메신저 협업툴 ‘채널톡’을 만들어 왔는데요. 2024년 4월에 고객 상담에 특화된 AI, ‘알프(ALF)’의 베타 버전을 내놓았습니다. [19]

일반적인 대화를 잘하는 것과 상담을 잘하는 것은 다릅니다. 회사의 제품이나 정책에 대한 질문에 정확하고 구체적으로 대답할 수 있어야 합니다. 또 고객이 자주 요청하는 것들, 이를테면 제품의 교환이나 반품, 배송 등에 대해 실질적인 대응을 할 수 있어야겠죠. 정말 고객 상담에 도움이 되는 AI가 되기 위해, 알프는 ‘FAQ’, ‘RAG’, ‘커맨드’ 기능을 갖췄습니다.

(출처: 채널콘2024 ALF 세션 발표)

FAQ 기능은 상담 내역을 기반으로 고객이 자주 묻는 질문(FAQ)를 추출해 주거나, 기존 FAQ를 등록하면 그에 맞춰 답변을 해 주는 기능입니다. 고객의 질문과 FAQ의 유사도를 판단해 비슷한 질문-답변 세트를 찾고, 문의사항에 대한 정확한 답변을 내보냅니다. [20]

여기서 더 나아가 사내에서 관리하는 문서를 참고해 답변을 제공하는 RAG 기능도 출시되었습니다. 채널톡에서는 기업용 문서 관리 툴 ‘도큐먼트’를 제공하고 있습니다. 여기서 ‘자주 묻는 질문’, ‘제품 가이드’, ‘입고 현황’ 등 다양한 문서를 작성하고 관리할 수 있는데요. ALF가 이 도큐먼트들을 참고해 답변하도록 하는 것이 바로 ‘RAG’입니다. [21]

커맨드는 고객의 질문에서 ‘교환’, ‘반품’, ‘배송’ 등 요청사항을 포착해 요청을 해결해 줄 수 있는 ‘버튼’을 직접 가져다 주는 기능입니다. 사실 이커머스 기업의 경우 교환, 반품, 배송 등의 단순 문의가 70%에 이릅니다. 만약 각 사이트에 흩어진 배송 데이터를 한꺼번에 조회하고, 사용자가 직접 필요한 액션을 하도록 한다면 단순 문의가 크게 줄어들겠죠. 이 개념을 구현한 것이 커맨드입니다. [22]

FAQ나 RAG, 커맨드와 같은 기능들이 구현되려면 상담 현장에서의 시행착오를 반영한 섬세한 제품화가 필수입니다. 그리고 채널톡은 상담 분야에서 쌓아 온 전문성과 고객사들과 쌓아 온 신뢰를 기반으로, 베타 버전의 알프를 계속 고도화하고 있습니다.

고객 상담은 오래 전부터 AI가 도입되어 큰 효과를 낼 수 있는 분야로 손꼽혀 왔습니다. 하지만 지금까지 상담 분야에서 AI는 상담사를 뒤에서 보조하는 역할이나, 극단적으로 단순한 문의에서만 상담사를 대신할 수 있는 수준이었는데요. 채널코퍼레이션은 상담사의 일을 진정으로 덜어줄 수 있는 AI 알프를 단순한 'AI 챗봇'이나 ‘AI 어시스턴트’가 아니라 한 발 더 나아간 단계, ‘AI 에이전트’로 정의하고 있습니다.

알프가 가져올 미래, 기대해 주세요!


참고 자료(References)

[1] A. M. Turing, "Computing Machinery and Intelligence", Mind, vol. 49, pp. 433-460, 1950.

[2] L. C. Klopfenstein, S. Delpriori, S. Malatini, and A. Bogliolo, "The Rise of Bots: A Survey of Conversational Interfaces, Patterns, and Paradigms", in DIS '17: Proceedings of the 2017 Conference on Designing Interactive Systems, 2017.

[3] E. Adamopoulou and L. Moussiades, "An Overview of Chatbot Technology", in Artificial Intelligence Applications and Innovations, 2020.

[4] 마쓰오 유타카, "인공지능과 딥러닝: 인공지능이 불러올 산업 구조의 변화와 혁신," 동아엠앤비, 2015. p. 51.

[5] S. Hussain, O. Ameri Sianaki, and N. Ababneh, "A Survey on Conversational Agents/Chatbots Classification and Design Techniques", in Web, Artificial Intelligence and Network Applications, L. Barolli, M. Takizawa, F. Xhafa, and T. Enokido, Eds. Cham: Springer, 2019, vol. 927, pp. 946-956.

[6] 오픈도메인 챗봇 ‘루다’ 육아일기: 탄생부터 클로즈베타까지의 기록

[7] 박상길, "비전공자도 이해할 수 있는 AI 지식: 챗GPT부터 유튜브 추천, 파파고 번역과 내비게이션까지 일상을 움직이는 인공지능 이해하기 [챗GPT 수록 개정판]," 정진호 그림, 반니, 2023.

[8] SimSimi Official, "How an AI Chatbot Works: A Quick Guide to SimSimi's Architecture", Medium, Apr. 26, 2021.

[9] A. Tarantola, "How Apple reinvigorated its AI aspirations in under a year", Engadget, Jun. 7, 2017.

[10] 스튜어트 러셀 and 피터 노빅, "인공지능 1: 현대적 접근방식," 류광 역, 제4판, 서울: 제이펍, 2021.

[11] S. Levy, "An Exclusive Look at How AI and Machine Learning Work at Apple", Wired, Aug. 2016.

[12] 김상민, "애플 ‘iOS 10’ 공개, 딥러닝 적용…더 똑똑해진 시리", 서울경제, Jan. 14, 2016.

[13] Apple, "Hey Siri: An On-device DNN-powered Voice Trigger for Apple's Personal Assistant", Machine Learning Research, Apr. 16, 2021.

[14] Apple, "An On-device Deep Neural Network for Wake Word Detection", Machine Learning Research, Apr. 16, 2021.

[15] AI리포터, 애플, 연말까지 iOS 18에 챗GPT 통합 예정, 디지털투데이, Aug. 5, 2024.

[16] Scatter Lab, "Luda Gen 1, 더 재미있고 자연스러운 대화로 돌아온 루다 1편 - 생성 기반 챗봇", Scatter Lab Tech Blog, Mar. 23, 2023.

[17] Scatter Lab, "Luda Gen 2, 더 재미있고 자연스러운 대화로 돌아온 루다 2편 - 생성 기반 챗봇", Scatter Lab Tech Blog, Mar. 23, 2023.

[18] A. Jalammar, "How GPT-3 Works - Visualizations and Animations", Jalammar's Blog, Jul. 15, 2020.

[19] L. Ouyang et al., "Training language models to follow instructions with human feedback", arXiv, arXiv:2203.02155, Mar. 2022.

[20] 채널톡, "생성형 AI 챗봇 ‘알프(ALF)’ 출시···CS 단순문의 해결률 72% 기록", 채널톡 블로그, Jun. 2023.

[21] 채널톡, "FAQ", 채널톡 사용 가이드.

[22] 채널톡, "ALF", 채널톡 사용 가이드.

게시일: 2024년 8월 5일

사이트에 무료로 채널톡을 붙이세요.

써보면서 이해하는게 가장 빠릅니다

회사 이메일을 입력해주세요