Anthropic의 위험한 AI 모델, 통제 실패로 Discord 그룹에 노출

이번 사건은 Anthropic에서 발생한 일련의 정보 통제 실패 중 하나로, 보안 관리(Security Management)의 심각한 문제를 드러낸다. 이전에는 Claude 코드 소스 유출, Mythos 관련 초안 블로그 게시물 공개 등의 사고가 발생했다. 이러한 반복적인 사고는 Anthropic의 콘텐츠 관리(Content Management) 및 접근 통제 시스템의 취약성을 보여준다. 특히, Mythos의 URL 패턴을 추측하여 접근에 성공한 사례는, 패턴 인식(Pattern Recognition)만으로도 보안 시스템을 우회할 수 있음을 시사한다. 이는 AI 모델 개발 및 배포 시, 더욱 강화된 보안 조치가 필요함을 강조한다.

흥미롭게도, Mythos는 국방부(Department of Defense)의 반대에도 불구하고 국가안보국(National Security Agency, NSA)에서 사용되고 있다. 반면, 핵심 인프라 보호(Critical Infrastructure Protection)를 담당하는 CISA(Cybersecurity and Infrastructure Security Agency)는 모델에 접근할 수 없는 상황이다. 이러한 정부 기관 간의 불일치는 AI 모델의 활용(AI Model Utilization)과 관련된 정책적 혼란을 보여준다. CISA가 접근 권한을 갖지 못하는 상황은, 국가 안보(National Security)를 위협하는 잠재적 위험을 내포하고 있으며, AI 모델의 안전한 활용을 위한 정부 차원의 협력과 조정이 시급함을 시사한다.

Anthropic은 Mythos와 같은 고성능 AI 모델을 안전하게 배포하기 위한 노력을 지속할 것이라고 밝혔다. 이를 위해서는 벤더 접근 관리(Vendor Access Governance)를 강화하고, AI 모델의 보안(AI Model Security)을 위한 기술적, 정책적 노력이 필요하다. 특히, AI 모델의 배포 규모가 커질수록, 공급망 보안(Supply Chain Security)의 중요성은 더욱 커질 것이다. Anthropic은 Mythos를 일반에 공개할 계획은 없지만, 궁극적으로는 안전한 AI 모델 배포를 목표로 하고 있다. 이를 위해서는 AI 모델의 안전성(AI Model Safety)을 확보하기 위한 지속적인 연구와 투자가 필요하다.