AI 챗봇 도입으로 고객 응대 혁신! 마이리얼트립의 챗봇 개발 노하우 공개

AICX는 고객 문의 자동화를 위해 챗봇을 도입하여 응답률 80%를 달성함

Interrupt Handling 로직 개발을 통해 자연스러운 대화 흐름을 구현하고, 핸드오버 기능을 통해 상담원 연결을 지원함

프롬프트 엔지니어링 및 자체 프롬프트 생성 도구 개발로 챗봇의 정확도를 향상시킴

Interrupt Handling: 대화의 연속성을 확보하다

사용자의 메시지 분할 전송을 고려하여 Interrupt Handling 로직을 개발했다. 구체적으로, 새로운 메시지가 도착할 때마다 이전 대화를 저장하고 문맥을 복원한다. 따라서 사용자는 기존 상담 경험을 유지하면서도 자연스러운 AI 대화를 경험할 수 있다. 결과적으로 챗봇의 사용자 만족도를 높였다.

상담원 핸드오버와 정보 요약

챗봇은 복잡한 문의에 대해 상담원 핸드오버 기능을 제공한다. 핸드오버 시점에 챗봇은 대화 맥락과 핵심 문의 요점을 자동으로 정리하여 상담원에게 전달한다. 따라서 상담원은 대화 내용을 처음부터 확인할 필요 없이 핵심만 빠르게 파악하고 고객에게 즉시 대응할 수 있다. 결과적으로 고객 응대 효율을 높였다.

프롬프트 엔지니어링과 자체 도구 개발

AICX는 프롬프트 엔지니어링을 통해 챗봇의 품질을 향상시켰다. LangChain/LangGraph를 활용하여 다양한 모델의 프롬프트 구조를 분석하고, 자체 프롬프트 가이드라인을 정의했다. 따라서 모델의 환각 빈도를 줄이고, 사용자의 질문 의도를 더 정확히 파악하는 챗봇을 만들었다. 결과적으로 챗봇의 정확도를 높였다.