AI 대출 코치, 복잡한 대출 과정을 쉽게!
by DD
11개월 전
조회수 14
카카오페이 CreditClan 팀은 AWS Bedrock을 활용하여 AI 대출 코치 서비스를 개발함
할루시네이션 현상 최소화를 위해 Knowledge Base와 답변 지침을 활용함
1박 2일 해커톤에서 사용자 중심의 대출 탐색 경험을 제공함
AI 대출 코치 아키텍처 심층 분석
사용자 요청은 API Gateway를 통해 AWS Lambda로 전달된다. Lambda는 Bedrock Agent에 프롬프트를 구성하여 전달하고, Knowledge Base를 활용한 답변을 받는다. 따라서, API Gateway는 서비스의 진입점 역할을 하며, Lambda 함수는 핵심 로직을 담당한다.
할루시네이션 방지 전략: Knowledge Base와 답변 지침
AI의 할루시네이션을 막기 위해 Knowledge Base를 구축하고, 답변 지침을 설정했다. 구체적으로, 대출 상품 정보와 FAQ를 Knowledge Base에 등록하여, Agent가 정확한 정보를 제공하도록 했다. 따라서, 정확한 정보 제공을 위해 노력했다.
맞춤형 대출 탐색을 위한 프롬프트 설계
사용자 상태와 상담사 페르소나에 맞는 프롬프트를 구성하는 것이 핵심이다. 프롬프트는 사용자의 입력, 현재 상태, 상담사 페르소나를 포함한다. 따라서, 다양한 상황에 유연하게 대처하고, 맞춤형 답변을 생성할 수 있다.
