Claude Fable 5, 출시 하루 만에 '너무 막힌다'는 불만 폭주
AI 모델의 기억력 한계를 극복하기 위한 오픈소스 메모리 엔진 supermemory가 주목받고 있음
Anthropic의 신규 모델 Claude Fable 5는 강력한 성능에도 불구하고 과도한 안전장치로 인해 사용자 불만이 제기됨
Fable 5의 오탐(False Positive)으로 인한 일반 작업 차단 및 성능 저하 모델로의 다운그레이드 문제가 주요 불만 사항으로 지적됨
데이터 보존 정책 강화는 ZDR 계약을 신뢰하던 기업에게 혼란을 야기하며, 규제 포획 논란도 제기됨
Claude Fable 5의 과도한 안전장치와 오탐(False Positive) 문제
Claude Fable 5는 미토스(Mythos)급 모델에 강화된 안전장치를 적용했으나, 출시 직후 과도한 오탐(False Positive)으로 인한 불만이 쏟아지고 있음.
키워드 및 어휘 기반 필터링으로 인해 무해한 작업(코드 디버깅, 학술 질문 등)까지 사이버보안 또는 생물학 주제로 오인하여 차단함.
이로 인해 사용자는 성능이 낮은 Claude Opus 4.8로 강제 다운그레이드되는 경험을 하며, 이는 사용자 경험 저하(User Experience Degradation)로 이어짐.
앤트로픽은 오탐률 감소를 위해 노력 중이라고 밝혔으나, 현재로서는 실질적인 작업 수행에 제약이 발생하고 있음.
supermemory: AI의 기억력 한계를 극복하는 아키텍처
supermemory는 AI 모델과 별도로 기억을 관리하는 계층(Separate Memory Layer)을 두어, 대화 세션이 바뀌어도 AI가 이전 맥락을 기억하도록 지원함.
데이터 격리 아키텍처(Data Isolation Architecture)를 통해 사용자의 데이터를 안전하게 저장하고, 모델 교체 시에도 맥락 정보를 유지함.
벡터 DB, 임베딩 파이프라인, 청킹 전략 등을 하나의 API로 추상화하여 개발자가 쉽게 AI에 기억 기능을 통합할 수 있도록 함.
코드 없이 사용 가능한 플러그인, npm/pip 설치, 단일 바이너리 실행 등 다양한 통합 옵션을 제공하여 접근성을 높임.
데이터 미저장 정책(Zero-Retention Policy) 폐지와 그 영향
앤트로픽은 Fable 5부터 미토스급 모델에 대한 프롬프트 및 답변 30일 보존 정책을 시행하며, 기존 ZDR(Zero Data Retention) 계약을 사용하던 기업에게 혼란을 야기함.
데이터 유출 및 오용 방지를 위한 조치이나, 민감 데이터를 다루는 기업의 경우 GDPR 및 NDA 규정 준수에 대한 우려가 제기됨.
마이크로소프트가 Fable 5를 고객용 Copilot에는 포함했으나 사내 Copilot에는 제외한 사례는 데이터 보존 정책이 기업의 내부 보안 정책과 충돌할 수 있음을 보여줌.
ZDR을 신뢰하던 기업들은 데이터 처리 방식 재검토가 불가피해졌으며, 이는 클라우드 AI 서비스 도입의 신뢰성 문제로 이어질 수 있음.
AI 모델 안전성 검증과 규제 포획 논란
Claude Fable 5 출시와 동시에 제기된 AI 모델 출시 전 제3자 검증 의무화 제안은 규제 포획 논란을 낳고 있음.
앤트로픽 CEO의 제안은 강력한 AI 모델의 잠재적 위험을 통제하려는 시도이나, 현실적으로 큰 기업에게만 유리한 규제가 될 수 있다는 비판이 있음.
키워드 기반 안전장치의 한계는 악의적인 사용자를 놓치고 정상적인 연구자를 막는 결과를 초래하며, 이는 AI 안전장치의 실효성에 대한 의문을 제기함.
모델의 성능 향상과 안전성 확보 사이의 지속적인 줄다리기는 앞으로도 반복될 가능성이 높으며, 용도별 모델 분리 및 교체의 중요성이 부각됨.
