AI 에이전트, 맥킨지(McKinsey)의 AI 플랫폼을 2시간 만에 해킹

맥킨지(McKinsey)의 AI 플랫폼 Lilli는 SQL Injection 취약점으로 인해 심각한 데이터 유출 사고를 겪었다. 공격자는 인증 없이 접근 가능한 API 엔드포인트(API Endpoint)를 통해 SQL Injection을 시도하여 데이터베이스에 접근했다. 특히, 사용자 검색 쿼리가 안전하게 매개변수화되지 않고 SQL 쿼리에 직접 삽입되어 공격에 악용되었다. 이는 데이터 격리 아키텍처(Data Isolation Architecture) 부재를 보여주는 사례로, 기업의 보안 시스템 전반에 대한 경각심을 높인다.

이번 공격에서 가장 주목할 만한 점은 프롬프트(Prompt) 조작을 통한 AI 시스템의 오염 가능성이다. 공격자는 SQL Injection을 통해 Lilli의 시스템 프롬프트에 접근하여 AI의 답변, 가드레일(Guardrail), 소스 인용 방식을 변경할 수 있었다. 이는 AI 환각(Hallucination)을 유발하거나, 기밀 정보 유출을 유도하는 등, AI 시스템의 신뢰성을 근본적으로 훼손할 수 있는 심각한 문제로 이어진다. 데이터 미저장 정책(Zero-Retention Policy)을 적용했더라도, 프롬프트가 노출되면 정보 유출의 위험이 있다.

이번 사건은 자율 에이전트(Autonomous Agent)를 활용한 공격의 위험성을 보여주는 사례이다. 공격자는 별도의 자격 증명이나 사전 지식 없이, 도메인 이름만으로 Lilli 시스템에 침투했다. 에이전트는 공격 표면을 매핑하고, 취약점을 자동으로 찾아내며, SQL Injection을 통해 데이터베이스에 접근하는 일련의 과정을 자동화했다. 이는 AI 기술의 발전과 함께 공격 방식이 더욱 고도화될 것임을 시사하며, 기업들은 AI 기반 공격에 대한 대비를 강화해야 한다.

커뮤니티에서는 맥킨지(McKinsey)의 기술 역량과 보안 의식에 대한 비판이 제기되었다. 일부 댓글에서는 Lilli가 내부적으로만 사용되는 시스템임에도 불구하고, 보안 취약점이 존재했다는 점을 지적했다. 또한, 맥킨지(McKinsey)가 AI 기술에 대한 과도한 기대를 가지고 있으며, 실제 기술 구현 및 보안에 대한 투자는 부족하다는 의견도 제시되었다. 이는 기업의 기술 문화와 보안 투자에 대한 중요성을 강조한다.