AWS 해커톤 우승! 영업 AI 샐리, 비결은?

Strands Agents SDK는 Bedrock 모델 호출, 세션 관리, 툴 관리 등 복잡한 로직을 추상화하여 Agent 개발을 단순화한다. 구체적으로, S3SessionManager를 통해 세션 데이터를 관리하고, SummarizingConversationManager를 사용하여 대화 내용을 요약한다. 따라서, 개발자는 핵심 비즈니스 로직에 집중하여 개발 생산성을 높일 수 있다.

초기 멀티 에이전트 구조는 각 에이전트 간 호출로 인해 토큰 사용량 증가 및 응답 지연 문제를 야기했다. 반면, 단일 에이전트 구조로 전환하여 주요 판단 로직을 통합한 결과, 응답 속도가 크게 개선되었다. 따라서, 에이전트 설계 시 성능 최적화를 위해 단일 책임 원칙을 준수하는 것이 중요하다.

비동기 스케줄 JOB을 통해 리드 정보를 주기적으로 갱신하여 유저 경험을 향상시켰다. 구체적으로, Naver, Exa, Perplexity API를 Tool로 래핑하여 LLM이 필요한 정보만 추출하도록 했다. 따라서, 비용 절감과 정확한 정보 제공이라는 두 마리 토끼를 잡을 수 있었다.