AI가 금융 용어를 쉽게! '금.용.사' 개발 후기
by DD
11개월 전
조회수 16
AI가 어려운 금융 용어를 쉽게 설명하고 관련 금융 상품을 추천하는 서비스 개발
API 응답 지연 문제 해결을 위해 DynamoDB 기반의 캐싱 솔루션 도입
프롬프트 구체화 및 Agent 역할 정의를 통해 AI 응답 품질 향상
AI Agent를 활용한 금융 용어 설명
Amazon Bedrock의 Agent를 활용하여 금융 용어에 대한 간단 설명, 상세 설명, 연관 상품 추천 기능을 구현했다. 구체적으로, 프롬프트를 통해 응답 형식과 출력 형태를 정의했다. 따라서, 사용자는 AI가 생성한 정확하고 일관된 정보를 얻을 수 있다.
DynamoDB를 활용한 API 응답 속도 개선
API 응답 지연 문제를 해결하기 위해 DynamoDB를 캐싱 솔루션으로 도입했다. Key-Value 기반으로 용어와 설명을 저장하여 빠른 조회가 가능하도록 했다. TTL(Time To Live) 설정을 통해 최신 정보를 유지하고, 첫 방문 시 지연을 해결하기 위해 비동기적 캐시 업데이트를 구상했다.
프롬프트 엔지니어링을 통한 AI 응답 품질 향상
AI가 기대한 대로 응답하지 못하는 문제를 해결하기 위해 프롬프트를 구체적으로 작성했다. 역할, 응답 조건, 출력 형식을 명확히 정의하여 AI 응답의 일관성을 확보했다. 결과적으로, 사용자는 정확하고 이해하기 쉬운 설명을 얻을 수 있게 되었다.
