AI의 기억력, Agentic AI로 진화하다!

영상에서는 기존 RAG 방식이 최신 정보 검색에 한계가 있음을 지적하며, 여러 에이전트가 협력하여 정보를 기억하고 검색하는 Agentic AI와 Supermemory를 소개합니다. 이는 단순히 데이터를 저장하는 것을 넘어, 대화의 맥락과 의미를 파악하여 필요한 정보를 효율적으로 검색하고 활용하는 데 초점을 맞춥니다. 발표자는 이 기술이 AI의 장기 기억 능력을 획기적으로 향상시킬 잠재력을 가지고 있다고 강조합니다.

Supermemory는 대화 맥락을 의미론적 계층으로 나누어 저장하는 메모리 티어링 방식을 사용합니다. 이는 자주 사용되는 정보는 빠른 메모리(DRAM)에, 오래되거나 덜 중요한 정보는 느린 저장 장치(SSD)에 저장하여 검색 효율성을 높이는 전략입니다. 발표자는 이러한 계층적 접근이 대규모 언어 모델(LLM)의 기억력 한계를 극복하는 핵심 요소임을 설명합니다.

기존 RAG는 최신 정보나 특정 맥락에 대한 검색에서 성능 저하를 보일 수 있습니다. Agentic AI는 이러한 문제를 해결하기 위해, 다양한 에이전트가 각자의 역할을 수행하며 정보를 검색하고 종합하는 방식을 취합니다. 예를 들어, 특정 에이전트는 실시간 정보 검색을 담당하고, 다른 에이전트는 과거 대화 기록을 분석하는 등, 협업을 통한 정보 처리 능력을 강화합니다.

Supermemory는 SSD와 DRAM을 효과적으로 활용하여 검색 성능을 최적화합니다. 특히, 자주 참조되는 정보는 SSD에 저장하고, 이를 DRAM 캐시를 통해 빠르게 접근할 수 있도록 합니다. 발표자는 이러한 하드웨어 계층화를 통해 응답 속도를 크게 단축하고, 대규모 데이터 처리에서도 안정적인 성능을 유지할 수 있다고 설명합니다. 이는 비용 효율성과 성능 향상이라는 두 마리 토끼를 잡는 전략입니다.

이 기술은 단순히 키워드 매칭을 넘어, 의미론적 유사성을 기반으로 정보를 검색합니다. 즉, 사용자의 질문 의도를 파악하고, 가장 관련성 높은 정보를 찾아 추론 과정에 활용합니다. 발표자는 이를 위해 임베딩(Embedding) 기술과 벡터 검색(Vector Search)을 활용하며, 다양한 에이전트 간의 정보 공유 및 추론을 통해 더욱 정교한 답변을 생성한다고 설명합니다.