...

ChatGPT는 다시 사용하고 싶은데,

...

커머스 챗봇은 왜…?

ChatGPT의 국내 이용자가 300만 명을 넘어섰다는 기사를 본 적이 있습니다. 주 사용자층은 20~30대로, 리포트 작성, 과제, 업무 용도로 활용되며 그 사용성을 인정받고 있는 듯합니다. 그러나 이러한 생성형 AI 챗봇과 달리 우리가 커머스에서 접하는 챗봇은 다시 사용하고 싶을 만큼의 인상을 남기지는 못하는 것이 현실입니다. 질문을 이해하지 못한 엉뚱한 대답을 내놓거나, 버튼만 반복해서 누르게 되는 상황이 발생하기 때문입니다.

...

이커머스에서 맞춤형 추천은 고객 경험을 향상시키는 중요한 요소입니다. 많은 기업들이 AI 기반 챗봇을 통해 고객의 취향, 검색 기록, 구매 이력을 반영해 개인화된 추천을 제공하고 있습니다. 그러나 LLM은 고객의 취향과 무관한 제품을 추천을 하는 등 개별 사용자 맞춤형으로 최적화된 추천을 제공하는 데 한계가 있습니다.

LLM의 한계를 보완하는 RAG

RAG란?

RAG(Retrieval-Augmented Generation)는 LLM의 한계를 극복하기 위해 설계된 기술로, 자연어 처리(NLP) 모델에 검색 시스템을 결합하여 필요한 정보에 대한 정확한 검색과 자연스러운 답변 생성 능력을 동시에 발휘할 수 있습니다. 쉽게 말해, LLM이 정보를 생성할 때 외부 데이터를 '가져와서' 그 데이터를 기반으로 답변을 생성하는 방식입니다.

...

이 방식은 LLM의 강력한 생성 능력에 외부 데이터베이스나 검색 시스템을 결합하는 것이죠. 마치 챗봇이 대답하기 전에 관련된 최신 자료를 찾아보고, 그 정보를 바탕으로 더 정확한 답을 주는 것과 같습니다.

LLM + RAG 작동 방식

LLM과 RAG의 결합은 다음과 같은 단계로 작동합니다:

...