롯데백화점, AI 컨시어지 '더스틴' 도입으로 쇼핑 경험 혁신

롯데백화점 AI 컨시어지는 API 레이어, AI 에이전트 레이어, 데이터 및 색인 레이어로 구성된 3-Tier 아키텍처를 채택했다. API 레이어는 모바일 웹/앱으로부터 사용자 요청을 수신하며, AWS WAF를 통해 악성 트래픽을 차단한다. AI 에이전트 레이어는 Amazon ECS에서 Strands Agents SDK 기반 에이전트 서버를 운영하며, Amazon Bedrock의 Anthropic Claude Haiku 모델을 활용하여 빠른 응답 속도와 비용 효율성을 확보했다. 데이터 및 색인 레이어는 Amazon S3, SNS, SQS, Lambda, OpenSearch Service를 활용하여 매장, 지점, 쇼핑 정보를 관리한다. 이러한 데이터 격리 아키텍처(Data Isolation Architecture)는 각 레이어의 독립성을 보장하고, 시스템 확장 및 유지보수를 용이하게 한다.

롯데백화점은 AI 컨시어지 구축에 Amazon Bedrock과 Strands Agents SDK를 핵심적으로 활용했다. Amazon Bedrock은 Anthropic Claude Haiku 모델을 통해 빠른 응답 속도와 비용 효율성을 제공하며, Amazon Bedrock Guardrails를 통해 개인정보 및 부적절한 데이터 필터링을 수행한다. Strands Agents SDK는 에이전트 서버 구축에 사용되었으며, 질문 의도에 따라 적절한 도구를 선택하고 OpenSearch Service에서 데이터를 검색한다. 특히, 시스템 프롬프트 최적화, 도구 실행 결과 경량화, 대화 이력 압축 등의 기술을 통해 토큰 사용량을 50% 감소시켰다.

롯데백화점은 온프레미스 배치 서버에서 관리되는 매장, 지점, 쇼핑 정보를 AI 컨시어지가 활용할 수 있도록 이벤트 기반 파이프라인을 구축했다. 데이터는 Amazon S3에 업로드되면, Amazon SNS/SQS를 통해 AWS Lambda 함수가 실행되어 데이터 파싱, 청킹, 임베딩 생성, OpenSearch 색인을 수행한다. Amazon OpenSearch Service는 벡터 검색과 키워드 검색을 지원하며, Amazon Bedrock Titan Text Embeddings V2 모델을 통해 생성된 벡터를 함께 저장한다. 또한, AWS Step Functions를 활용하여 웹 검색 데이터를 수집하고, Amazon Bedrock Claude Sonnet 및 Opus 모델을 통해 데이터 추출 및 검증을 수행한다.

롯데백화점은 토큰 사용량 최적화를 위해 다양한 노력을 기울였다. 시스템 프롬프트 최적화, 도구 실행 결과 경량화, 도구 실행 이력 압축을 통해 토큰 사용량을 50% 감소시켰다. 또한, 검색 결과 필터링을 통해 답변 정확도를 향상시키고, 환각(Hallucination)을 방지하기 위해 검색 결과 유무에 따라 답변 생성 지침을 분리했다. 특히, 도구 실행 결과에 답변을 위한 정보가 없는 경우 답변하지 않도록 시스템 프롬프트를 구성하여, AI 환각(Hallucination)을 최소화했다.

AI 컨시어지 '더스틴' 도입 후, 롯데백화점은 고객센터 및 현장 직원의 반복 안내 업무 부담을 감소시키고, 고객의 쇼핑 경험을 향상시켰다. 또한, 토큰 최적화를 통해 비용 효율성을 높였다. 향후 롯데백화점은 다국어 지원을 통해 외국인 관광객을 위한 서비스를 제공하고, 멤버십 정보, 선호 브랜드 등 고객 데이터를 연동하여 개인화 추천 기능을 고도화할 계획이다. 이러한 노력은 단순 정보 안내 챗봇에서 개인화된 쇼핑 어시스턴트로의 진화를 목표로 한다.