OpenSearch, AI 에이전트와 결합해 차세대 검색 플랫폼으로 진화

각 단계별 주요 기술로는 BM25, TF-IDF에서 임베딩(Vector), KNN, 그리고 LLM, RAG, Tool Calling까지 발전했습니다.

특히 에이전틱 검색은 LLM(Large Language Model)의 추론 능력과 Tool Calling 기능을 활용하여 복합적인 문제 해결 및 AI 비서와 같은 고도화된 활용 사례를 가능하게 합니다.

클러스터 인사이트는 노드별 성능, 샤드 분포, 쿼리 패턴 등을 통합 대시보드에서 자동 시각화하여 병목 지점 파악을 용이하게 합니다.

파생 소스 기술은 원본 JSON 문서의 중복 저장을 생략하고 필요시 동적으로 재구성하여, 클러스터 스토리지 비용을 최대 40% 절감하고 인덱싱 및 머지 속도를 약 20% 향상시킵니다.

인메모리(In-Memory) 모드는 초고속 검색을 제공하지만 비용이 높습니다.

디스크 모드(Disk Mode)는 양자화된 벡터만 메모리에 올리고 원본은 디스크에 보관하여 메모리 비용을 최대 32배까지 절감하며, 약간의 지연 시간 증가와 함께 정확도를 확보합니다.

S3 벡터 스토리지는 가장 저렴한 옵션으로 대규모 장기 보관에 유리합니다.

cuVS는 GPU 인스턴스를 활용하여 인덱스 생성 작업을 오프로드하고, 완료 후 GPU를 반환하는 서버리스 GPU 방식을 지원합니다.

이를 통해 인덱스 빌드 속도가 벤치마크 기준 최대 10배 향상되어, 10억 개 규모 벡터 인덱스를 1시간 이내에 구축할 수 있게 되었습니다.

또한, 빌드 비용도 기존 대비 4분의 1 수준으로 절감되어 대규모 벡터 인덱스 구축의 경제성을 크게 높였습니다.

MCP(Model Context Protocol) 표준 지원으로 LangChain, LlamaIndex 등 주요 AI 프레임워크와 즉시 연동 가능합니다.

내부 에이전틱 메모리(Agentic Memory)는 에이전트의 세션 메모리 및 이벤트 히스토리를 OpenSearch 내에서 관리하여 LLM 컨텍스트 윈도우를 최적화하고, 완전한 멀티테넌트 구조를 지원합니다.

클러스터 내 전문화된 로컬 에이전트는 인프라의 보안 경계를 상속받아 안전하며, 플로우 에이전트, 대화형 에이전트, 계획 실행 반영 에이전트 등 워크로드에 맞는 다양한 타입을 제공합니다.