AI 에이전트, 기억을 갖다! Bedrock AgentCore Memory
by DD
5개월 전
조회수 14
생성형 AI의 Statelessness 문제를 해결하기 위해 Amazon Bedrock AgentCore Memory가 등장함
단기 기억과 장기 기억을 분리하여, 의미론적 검색을 통해 관련 정보만 추출
Memory Forking을 통해 대화의 가지치기를 구현, A/B 테스트 및 타임머신 디버깅 지원
AgentCore Memory의 3단계 데이터 구조
AgentCore Memory는 memory_id, actor_id, session_id 3단계 구조로 데이터를 관리한다. 구체적으로, actor_id는 사용자 식별, session_id는 대화 세션 식별에 사용된다. 따라서 데이터 격리와 보안을 강화하고, GDPR 규제 준수 및 비용 최적화를 지원한다.
장기 기억의 핵심: 의미론적 검색
장기 기억은 의미 기억, 사용자 선호도 기억, 요약 기억, 일화 기억 등 4가지 전략을 사용한다. 따라서, 의미론적 검색을 통해 사용자의 질문 의도와 가장 유사한 기억을 찾아낸다. 반면, 단기 기억은 저장 즉시 활용 가능하지만, 장기 기억은 비동기 처리로 인해 생성에 시간이 소요된다.
Memory Forking: 대화의 가능성을 열다
Memory Forking은 대화의 특정 시점에서 가지치기를 가능하게 한다. 구체적으로, A/B 테스팅을 통해 프롬프트의 성능을 비교하고, 타임머신 디버깅으로 오류를 수정한다. 따라서, 컨텍스트 오염을 방지하고, 에이전트의 성능 유지에 기여한다.