AI Search, 에이전트(Agent) 검색 기능을 플러그 앤 플레이 방식으로!

by DD
1개월 전
조회수 18

AI Search는 에이전트(Agent)가 필요로 하는 검색 기능을 제공하며, 하이브리드 검색(Hybrid Search)을 통해 의미 기반 검색과 키워드 검색을 동시에 지원한다.

내장 스토리지(Built-in Storage)와 인덱스(Index)를 제공하여 별도의 설정 없이 데이터를 업로드하고 검색할 수 있으며, 런타임(Runtime)에 인스턴스(Instance)를 생성할 수 있다.

고객 지원 에이전트(Customer Support Agent) 사례를 통해 AI Search를 활용한 지식 검색 및 고객별 맞춤형 정보 검색 방법을 제시한다.

하이브리드 검색(Hybrid Search)의 작동 원리

AI Search는 의미 기반 검색(Vector Search)키워드 검색(Keyword Search)을 병렬로 실행하고 결과를 융합하는 하이브리드 검색을 지원한다.

벡터 검색(Vector Search)은 의미(Intent)를 파악하는 데 강점을 가지지만, 특정 용어(Specific Terms)를 놓칠 수 있다.

BM25(BM25)는 질의어(Query Terms)의 빈도, 희소성, 문서 길이를 고려하여 키워드 기반 검색을 수행한다.

융합(Fusion), 선택적 재순위(Reranking)를 통해 최종 검색 결과를 생성하며, 사용자는 토크나이저(Tokenizer), 키워드 매칭 모드(Keyword Match Mode), 융합 방식(Fusion Method) 등을 설정할 수 있다.

이러한 하이브리드 방식은 검색 정확도(Search Accuracy)를 향상시키고, 다양한 질의에 대한 유연성을 제공한다.

AI Search의 런타임(Runtime) 인스턴스 생성

AI Search는 런타임에 검색 인스턴스(Search Instance)를 동적으로 생성하고 관리할 수 있는 기능을 제공한다.

ai_search_namespaces 바인딩(Binding)을 통해 워커(Worker)에서 create(), delete(), list(), search() 등의 API를 사용할 수 있다.

각 인스턴스는 자체적인 내장 스토리지(Built-in Storage)와 벡터 인덱스(Vector Index)를 가지며, R2 버킷(Bucket)을 데이터 소스(Data Source)로 연결할 수도 있다.

고객 지원 에이전트(Customer Support Agent) 예시에서, 각 고객별로 인스턴스를 생성하여 개인화된 검색(Personalized Search) 환경을 구축한다.

이러한 기능은 에이전트(Agent)의 확장성(Scalability)을 높이고, 데이터 격리(Data Isolation)를 통해 보안을 강화한다.

AI Search를 활용한 고객 지원 에이전트(Customer Support Agent) 구축

AI Search는 고객 지원 에이전트(Customer Support Agent) 개발을 위한 다양한 기능을 제공하며, Agents SDK와 통합되어 사용된다.

Agents SDK를 사용하여 에이전트(Agent)를 쉽게 구축하고, Workers AI를 통해 LLM(Large Language Model)을 활용할 수 있다.

search_knowledge_base 툴(Tool)을 통해 제품 문서(Product Docs)와 고객별 과거 해결 내역을 검색하고, save_resolution 툴(Tool)을 통해 해결 내역을 저장한다.

boost_by 옵션(Option)을 사용하여 검색 결과의 순위를 조절하고, cross-instance search를 통해 여러 인스턴스(Instance)에서 동시에 검색할 수 있다.

이러한 기능들을 통해 에이전트(Agent)는 지식 검색(Knowledge Retrieval)문제 해결(Problem Solving) 능력을 향상시킬 수 있다.

AI Search의 성능 및 비용 모델

AI Search는 베타 기간 동안 무료로 제공되며, 사용량에 따라 제한이 있다.

무료 사용량 제한(Free Tier Limits): 인스턴스(Instance) 수, 파일 수, 파일 크기, 월간 쿼리 수, 일일 크롤링 페이지 수 등에 제한이 있다.

기존 인스턴스(Existing Instances)는 기존 R2 버킷(Bucket), Vectorize 인덱스(Index), Browser Run 사용량에 따라 비용이 부과된다.

향후 통합된 가격 정책(Unified Pricing)을 제공할 예정이며, Workers AI 및 AI Gateway 사용료는 별도로 부과된다.

AI Search는 에이전트(Agent) 개발을 위한 검색 인프라를 간소화하여, 개발자들이 핵심 기능 개발(Core Feature Development)에 집중할 수 있도록 돕는다.

AI Search: the search primitive for your agents

댓글 0

첫 번째 댓글을 남겨보세요!