유튜브 AI, 프롬프트 인젝션으로 개인 영상 정보 유출 위험

본문에서는 유튜브 AI 어시스턴트 'Ask Studio'가 사용자가 남긴 댓글을 기반으로 요약 정보를 제공하는 과정에서 프롬프트 인젝션(Prompt Injection) 공격에 취약함을 지적한다. 공격자는 댓글을 편집하여 AI가 마치 자체 분석인 것처럼 [IMPORTANT NOTICE FROM YOUTUBE]와 같은 가짜 알림을 생성하도록 유도할 수 있다. 이는 사용자가 AI의 응답을 신뢰하는 점을 악용한 것으로, 데이터 미저장 정책(Zero-Retention Policy) 부재 시 심각한 보안 문제로 이어질 수 있다고 설명한다.

발견된 취약점은 단순히 텍스트를 주입하는 것을 넘어, AI가 생성한 링크를 통해 개인 영상 제목(Private Video Titles)과 같은 민감 정보를 탈취하는 수준까지 발전했다. 공격자는 영상 제목에 채널 데이터를 포함시켜 URL 파라미터로 전송되도록 조작할 수 있다. 그러나 구글은 이를 '사회 공학' 문제로 분류하며 보안 버그로 인정하지 않아, 커뮤니티에서는 기술적 취약점(Technical Vulnerability)을 간과하고 있다는 비판이 제기된다.

전 구글 직원의 댓글에 따르면, 이러한 버그가 즉시 수정되지 않는 이유는 엔지니어의 프로모션(Promotion) 및 연간 검토(Annual Review) 시스템과 관련이 있다. 버그 수정이 승진에 직접적인 영향을 미치지 않는 반면, 새로운 프로젝트 출시는 이를 가속화하므로 엔지니어들이 버그를 '덮으려는' 동기가 부여된다는 분석이다. 이는 조직 문화(Organizational Culture)와 인센티브 구조(Incentive Structure)가 보안 문제 해결에 미치는 영향을 시사한다.

커뮤니티에서는 유튜브 AI의 편의 기능과 보안 사이의 균형에 대한 논의가 활발하다. 제안된 해결책은 AI 모델에 명확한 역할 경계(Clear Role Boundaries)를 설정하여 사용자 생성 콘텐츠를 시스템 지시로 해석하지 않도록 하는 것이다. 또한, 데이터 격리 아키텍처(Data Isolation Architecture)를 통해 AI가 접근할 수 있는 데이터 범위를 제한하는 방안도 언급된다. 이러한 조치 없이는 AI가 모든 사용자 생성 콘텐츠의 벡터가 될 수 있다는 우려가 나온다.

일부 댓글에서는 유튜브와 같은 소셜 미디어 플랫폼에 콘텐츠를 업로드하는 것 자체가 공개(Public)를 전제로 해야 하며, 개인 정보 보호에 대한 '잘못된 믿음(False Sense of Privacy)'을 경계해야 한다고 주장한다. 모든 설정이 기본적으로 공개로 전환될 수 있으며, 사용자가 모든 설정을 세밀하게 관리해야 하는 상황을 지적한다. 이는 기술적 취약점과는 별개로, 플랫폼의 설계 철학(Platform Design Philosophy)과 사용자 인식 사이의 괴리를 보여준다.