ChatGPT는 다시 사용하고 싶은데, AI 챗봇은 왜…?

ChatGPT의 국내 이용자가 300만 명을 넘어섰다는 기사를 본 적이 있습니다. 주 사용자층은 20~30대로, 리포트 작성, 과제, 업무 용도로 활용되며 그 사용성을 인정받고 있는 듯합니다. 그러나 이러한 생성형 AI 챗봇과 달리 우리가 커머스에서 접하는 챗봇은 다시 사용하고 싶을 만큼의 인상을 남기지는 못하는 것이 현실입니다. 질문을 이해하지 못한 엉뚱한 대답을 내놓거나, 버튼만 반복해서 누르게 되는 상황이 발생하기 때문입니다.

운영 측면에서도 고민은 마찬가지입니다. 챗봇이 질문에 답을 제시하더라도 실제 업무 처리는 여전히 상담원이 직접 해야 하기 때문에, 챗봇을 통한 업무 효율성 향상은 크지 않은 상황입니다.

룰 기반 방식에서 대화형 챗봇으로

사용자가 다시 사용하고 싶은 챗봇과 그렇지 않은 챗봇의 차이는 답변의 정확도에서 결정됩니다. 이러한 이유로, 제약이 많은 룰 기반 챗봇에서 AI 기반 대화형 챗봇으로 넘어가고 있는 추세입니다. 룰 기반 챗봇은 미리 정의된 시나리오에서만 작동하기 때문에, 예상치 못한 복잡한 대화나 업무를 처리하는데 한계가 있기 때문입니다. 반면, AI 기반 대화형 챗봇은 문맥을 이해하고 다양한 질문에 대응 및 자동화 처리까지 가능합니다.

아래는 룰 기반 챗봇과 AI 기반 대화형 챗봇의 특징을 간단히 비교한 표입니다.

LLM이란?

AI 기반 대화형 챗봇은 LLM을 핵심 기술로 활용하여 더 자연스럽고, 지능적인 대화를 가능하게 합니다.

LLM(대규모 언어 모델, Large Language Model)은 대규모의 텍스트 데이터셋을 학습한 인공지능 모델로, 간단히 말해 인간처럼 대화할 수 있는 AI입니다. 즉 LLM은 방대한 양의 텍스트 데이터를 학습해 인간이 사용하는 자언어를 이해하고 생성하는 AI 모델을 말하며, 우리가 일상적으로 사용하는 언어를 컴퓨터가 이해할 수 있도록 만들어주는 것입니다.

그 결과, LLM은 사람이 쓴 것처럼 자연스럽게 글을 생성하거나, 질문에 답하거나, 심지어 특정 상황에 맞는 조언을 줄 수 있습니다.

<LLM 기반 챗봇의 장점>

• 자연스러운 언어 생성 : LLM은 문맥을 이해하고 그에 맞는 답변을 생성하기 때문에 사람과 대화하듯 자연스럽게 이어갈 수 있습니다.

• 다양한 작업 수행 능력 : LLM은 다재다능한 AI로 질문에 답변하는 것은 물론, 문서 요약, 번역, 창작, 감정 분석, 코드 작성까지 다양한 작업을 수행할 수 있습니다.

• 대규모 데이터에서 학습 : LLM은 다양한 주제에 대해 폭넓은 지식을 갖추고 있으며, 한정된 분야에 국한되지 않고 여러 방면에서 활용될 수 있습니다.

• 빠른 도입과 확장성 : 퍼블릭 LLM은 이미 API 형태로 제공되기 때문에, 기업이나 개발자가 빠르게 도입해 사용할 수 있습니다. 특히, 기존의 언어 모델을 구축하고 훈련하는 데 드는 시간과 비용을 절약할 수 있습니다.

LLM의 해결해야 할 과제 : 환각 현상

그러나, LLM에는 몇 가지 중요한 보완점이 있습니다. 그 중 대표적인 문제는 환각(Hallucination) 현상으로, LLM이 최신 정보나 특정 분야의 전문 지식을 갖추지 못해, 때로는 사실과 다른 정보를 생성하는 경우를 말합니다. 기업 입장에서 이러한 오류는 정보의 정확성과 신뢰성에 큰 문제를 일으킬 수 있어 LLM의 도입을 주저하는 이유 중 하나가 될 수 있습니다.

이렇듯 LLM은 무한한 가능성을 품고 있으면서도 해결해야 할 과제를 안고 있는데요. 이커머스 측면에서 LLM이 가진 한계점을 살펴보겠습니다.

1. 부정확한 정보 제공

이커머스 플랫폼에서 정확한 제품 정보는 매우 중요합니다. LLM이 부정확한 설명을 제공하면, 고객이 잘못된 정보를 바탕으로 구매 결정을 내릴 수 있으며, 고객이 원하지 않는 제품을 구매하게 되어 신뢰도 저하로 이어질 수 있습니다.

2. 도메인 특화 지식 부족

LLM은 방대한 데이터를 학습하지만, 특정 산업이나 제품에 대한 전문 지식이 부족할 수 있습니다. 이커머스에서 산업별로 고객의 질문이 다양하기 때문에, LLM이 일반적인 지식에 의존하면 기대에 못 미치는 답변을 제공할 수 있습니다. 예를 들어, 와인 쇼핑몰에서 "이 와인은 어떤 포도로 만들었나요?"라는 질문에 일반적인 답변만 제공하면 고객은 실망할 수 있습니다.

3. 최신 정보 반영의 어려움

LLM은 특정 시점까지 학습된 데이터를 바탕으로 작동하기 때문에, 최신 정보를 제공하는 데 어려움이 있습니다. 이커머스에서는 신제품 출시, 할인 프로모션, 재고 상태 등 실시간 정보가 매우 중요한데, LLM이 구식 데이터를 바탕으로 잘못된 정보를 제공하면 고객은 혼란을 겪게 됩니다. 특히, 한정된 기간의 할인 정보를 놓치거나, 이미 품절된 상품을 추천하는 경우, 고객 신뢰도에 큰 영향을 줄 수 있습니다.

4. 사용자 맞춤형 추천의 부재

이커머스에서 맞춤형 추천은 고객 경험을 향상시키는 중요한 요소입니다. 많은 기업들이 AI 기반 챗봇을 통해 고객의 취향, 검색 기록, 구매 이력을 반영해 개인화된 추천을 제공하고 있습니다. 그러나 LLM은 고객의 취향과 무관한 제품을 추천을 하는 등 개별 사용자 맞춤형으로 최적화된 추천을 제공하는 데 한계가 있습니다.

LLM의 한계를 보완하는 RAG

RAG란?

RAG(Retrieval-Augmented Generation)는 LLM의 한계를 극복하기 위해 설계된 기술로, 자연어 처리(NLP) 모델에 검색 시스템을 결합하여 필요한 정보에 대한 정확한 검색과 자연스러운 답변 생성 능력을 동시에 발휘할 수 있습니다. 쉽게 말해, LLM이 정보를 생성할 때 외부 데이터를 '가져와서' 그 데이터를 기반으로 답변을 생성하는 방식입니다.

여기서 Retrieval(검색)은 필요한 정보를 외부에서 '가져오는' 과정이고,
Generation(생성)은 그 정보를 바탕으로 답변을 '생성하는' 과정입니다.

이 방식은 LLM의 강력한 생성 능력에 외부 데이터베이스나 검색 시스템을 결합하는 것이죠. 마치 챗봇이 대답하기 전에 관련된 최신 자료를 찾아보고, 그 정보를 바탕으로 더 정확한 답을 주는 것과 같습니다.

LLM + RAG 작동 방식

LLM과 RAG의 결합은 다음과 같은 단계로 작동합니다:

1. 질문 입력: 사용자가 질문을 입력하면, RAG 시스템은 먼저 질문에 맞는 외부 문서를 검색합니다.

2. 문서 검색: 검색 시스템은 질문과 관련된 문서를 데이터베이스에서 찾아내고, 이를 LLM에게 전달합니다.

3. 답변 생성: LLM은 검색된 문서에서 핵심 정보를 추출하여 사용자가 이해할 수 있는 자연스러운 답변을 생성합니다.

4. 출력: 사용자는 최종적으로 LLM이 생성한 답변을 얻게 됩니다. 이 답변은 검색된 최신 정보나 특정 도메인 지식을 포함할 수 있어, 더 신뢰할 수 있습니다.

이처럼 RAG는 LLM의 강력한 언어 이해 및 생성 능력과 외부 지식 활용을 결합함으로써, 보다 정확하고 풍부한 정보를 제공할 수 있습니다. 특히 최신 정보나 특정 도메인 지식이 필요한 질문에 효과적으로 대응할 수 있다는 장점이 있습니다.

이커머스에서의 활용 사례

LLM+RAG가 결합된 챗봇은 이커머스 분야에서 고객 경험 향상과 판매 효율성 극대화에 매우 효과적인 도구로 활용될 수 있습니다. 이 두 가지 기술의 결합은 단순한 상품 정보 제공을 넘어, 고객 맞춤형 서비스, 실시간 정보 검색, 최신 트렌드 반영 등 여러 이점을 가져다줄 수 있습니다.

아래 예시 그림을 보면, 일반적인 내용만 답변하는 LLM 기반 챗봇과 달리, LLM과 RAG가 결합된 챗봇은 상품정보/주문정보/재고정보/고객정보 등을 활용해 고객에게 개인화된 추천을 제공할 수 있다는 것을 알 수 있습니다.

<LLM + RAG 기반 챗봇의 장점>

✅ 맞춤형 제품 추천 : 고객이 어떤 제품을 원하는지 이해하고, 그에 맞는 최신 인기 상품, 할인 제품, 재고 상태를 바탕으로 추천할 수 있습니다.

✅ 도메인 전문 지식 적용 : 내/외부 데이터베이스와 연결하여 도메인 전문 지식을 학습하고 고객 문의에 대한 정확한 답변을 제공합니다.

✅ 실시간 재고 및 가격 정보 : 실시간으로 제품의 재고 상태나 가격, 할인에 대한 정보를 제공합니다.

✅ 제품 리뷰 및 평가 요약 : 수많은 리뷰 데이터를 간결하게 요약하여 제공합니다.

즉, 이커머스에서 고객 맞춤형 추천, 실시간 정보 제공, 제품 리뷰 요약, 복잡한 제품 비교, 최신 트렌드 반영 등의 다양한 방식으로 활용되어 고객 만족도와 구매 전환율을 크게 향상시킬 수 있습니다.

X2BEE AI Chatbot은 LLM+RAG 기반으로 고객이 원하는 정보를 빠르고 정확하게 전달하며, 챗봇을 통한 차별화된 쇼핑 경험을 제공합니다. 자연어 처리와 최신 AI 알고리즘 덕분에 고객의 기대를 정확히 파악하고, 주문 취소나 옵션 변경 등 복잡한 작업도 즉각 처리합니다. 즉, 플랫폼의 운영 정책에 맞게 처리하되 가능한 고객의 편에서 처리할 수 있도록 이커머스에 최적화된 챗봇을 제공합니다.

X2BEE AI Chatbot 소개서를 통해 더 자세히 알아보세요!