AI 세션 기억, Salience(현저성) 기반으로 회상 비용을 줄이다
by DD
2개월 전
조회수 22
AI와의 대화 기억의 어려움: 여러 AI 세션에서 오간 대화 내용을 잊어버리고, 원하는 정보를 찾는 데 어려움을 겪음
Salience(현저성) 기반 기억 방식 제안: 리소스에 Narrative(이야기)를 더하여 기억의 다리를 만들고, 회상 효율을 높임
6가지 회상 축(Coinage, Actor, Temporal, Emotional, Cognitive, Singularity) 정의: AI 세션 기억에 조밀한 레퍼런스 망을 구축
결과: 회상 비용 감소, 작업 핸드오프 시간 단축, 컨텍스트 스위칭 병목 현상 완화
기억의 Salience(현저성) 개념
본문에서는 기억을 떠올리는 데 중요한 단서가 되는 Salience(현저성) 개념을 소개한다. Salience는 특정 속성, 장면, 맥락이 튀어나와 회상의 다리가 되는 현상을 의미한다.
Salience의 중요성: AI 세션에서 정확한 키워드(Keyword) 대신 Salience 신호를 활용하여, 흐릿한 단서로 과거 맥락을 재인식
6가지 회상 축: Coinage, Actor, Temporal, Emotional, Cognitive, Singularity를 활용하여 AI 세션 기억에 조밀한 레퍼런스 망 구축
RAG(Retrieval-Augmented Generation) 방식과의 차이: RAG는 리소스에 대한 시멘틱 서치(Semantic Search)를 수행하지만, 제안된 방식은 회상에 필요한 다리 역할을 하는 레퍼런스 포인트를 기록
Narrative(이야기) 기반 기억 방식
저자는 리소스(Resource)에 Narrative(이야기)를 더하는 방식을 통해 기억의 효율성을 높이는 방법을 제시한다. Narrative는 기억을 떠올리는 데 도움이 되는 다양한 맥락 정보를 포함한다.
6가지 회상 축 활용: AI 세션 기억에 6가지 축(Coinage, Actor, Temporal, Emotional, Cognitive, Singularity)을 활용하여 Narrative를 구성
메타데이터 태깅과의 차이점: 단순한 분류 레이블(Label)이 아닌, 회상 시 다리 역할을 하는 레퍼런스 포인트로 활용
쓰기/읽기 비대칭성: 쓰기를 풍부하게 하면 읽기가 단순해지는 위상, 즉, 쓰기에 정성을 들이면 꺼낼 때 효율성 증가
AI 세션 기억 관리의 기술적 과제
AI 세션 기억 관리는 대화 내용의 양이 증가함에 따라 정보 검색의 어려움이 커지는 문제에 직면한다. 저자는 이러한 문제를 해결하기 위해 Salience 기반의 기억 방식을 제안한다.
컨텍스트 윈도우(Context Window)의 한계: 컨텍스트 윈도우를 늘리는 것보다, 어떤 신호로 닿느냐가 더 중요
RAG 방식의 한계: RAG는 쓰기가 가볍고 읽기가 복잡한 비대칭성을 가짐
제안된 방식의 장점: 회상 비용 감소, 작업 핸드오프 시간 단축, 컨텍스트 스위칭 병목 현상 완화 등 AI 활용 생산성 향상
실제 적용 사례 및 시사점
저자는 Salience 기반 기억 방식을 실제 AI 세션에 적용한 경험을 공유하며, 그 효과를 강조한다. 또한, 팀 내에서 지속적인 문제 제기와 해결을 통해 기술을 발전시키는 과정을 보여준다.
실제 적용 결과: 회상 비용 감소, 작업 핸드오프 시간 단축, 컨텍스트 스위칭 병목 현상 완화
팀 문화의 중요성: 팀 내에서 지속적인 문제 제기(Problem Statement)와 해결을 통해 기술을 발전시키는 문화
대 AI 시대의 중요성: AI 시대에 필요한 대화의 중요성과 팀 내 지식 공유의 가치 강조
