AI 에이전트 'AIto' 도입으로 IT팀 생산성 80% 향상!
by DD
6개월 전
조회수 33
VMS Solutions는 AI Agent 기반 챗봇 'AIto'를 자체 개발하여 IT팀 생산성을 개선함
Strands SDK와 Amazon Bedrock을 활용, MCP 기반 멀티 에이전트 구조를 구현함
도입 후 단순 질의 80% 자동 응답 및 AWS 리소스 점검 시간 5~10분 → 1분으로 단축
MCP 기반 멀티 에이전트 아키텍처
AIto는 Strands SDK를 활용하여 멀티 에이전트 구조를 구현했다. Orchestrator Agent가 사용자 요청을 분석하고, AWS Manager, Meta Manager, OnPrem Manager 등 전문 에이전트를 호출한다. 따라서 각 에이전트는 MCP(Model Context Protocol)를 통해 실시간 데이터를 조회하고, Amazon Bedrock의 LLM을 활용하여 답변을 생성한다.
Strands SDK vs LangChain 비교
VMS Solutions는 LangChain 대신 Strands SDK를 선택했다. LangChain은 풍부한 생태계를 제공하지만, 멀티 에이전트 구현 복잡성이 높다. Strands SDK는 에이전트 간 협업 기능이 내장되어 있어, 복잡한 그래프 설계 없이도 에이전트 구성이 용이하다. 결과적으로 개발 및 유지보수 효율성을 높였다.
Amazon Bedrock 선택의 이유
AIto는 Amazon Bedrock을 LLM 플랫폼으로 선택했다. Bedrock은 여러 LLM 모델을 단일 인터페이스로 지원하여 모델 변경에 유연하게 대응할 수 있다. 또한, AWS 환경 내에서 완전 관리형으로 운영되어 데이터 보안을 강화하고, 운영 효율성과 확장성을 동시에 확보했다. 따라서 멀티 에이전트 시스템을 안정적으로 운영할 수 있다.
