97% 저장 공간 절약, 개인 데이터를 위한 RAG 시스템
by DD
6개월 전
조회수 22
LEANN은 개인용 AI 구축을 위한 벡터 데이터베이스로, 6GB로 6천만 텍스트 청크 색인 가능
개인 데이터 (이메일, 브라우저 기록 등)를 클라우드 비용 없이 검색할 수 있도록 지원
97% 적은 저장 공간으로 기존 솔루션과 동일한 검색 품질을 제공하며, 다양한 데이터 소스 연동
그래프 기반 재계산 및 온디맨드 임베딩
LEANN은 그래프 기반 선택적 재계산 방식을 통해 임베딩을 모두 저장하지 않고, 필요할 때 계산한다. 구체적으로, 고차수 보존 가지치기를 적용하여 저장 공간을 최소화한다. 따라서, 기존 벡터 데이터베이스 대비 97%의 저장 공간 절약이 가능하다. 결과적으로, 개인용 AI 시스템 구축에 적합하다.
다양한 데이터 소스 연동 및 유연한 설정
LEANN은 다양한 데이터 소스 (이메일, 브라우저 기록, 채팅 기록 등)를 지원하며, Model Context Protocol (MCP)을 통해 실시간 데이터 연동도 가능하다. 구체적으로, OpenAI API 호환을 통해 다양한 LLM 및 임베딩 모델을 사용할 수 있다. 따라서, 사용자는 자신의 필요에 맞는 유연한 설정을 통해 개인화된 AI 시스템을 구축할 수 있다.
성능 최적화 및 실시간 RAG 시스템 구축
LEANN은 Task-Specific Prompt Templates을 지원하여, 특정 작업에 최적화된 임베딩 모델을 사용할 수 있도록 한다. 구체적으로, EmbeddingGemma 300M 모델을 사용하여 Qwen 600M 모델 대비 4-5배 빠른 속도를 제공한다. 따라서, 실시간 워크플로우 (예: 코드 검토)에 적합하며, 개인 정보 보호를 유지하면서도 강력한 RAG 시스템을 구축할 수 있다.
