AI 생성 콘텐츠의 출처를 추적하는 새로운 기술 공개
AI 생성 콘텐츠(AI-generated content)의 출처 및 변경 여부 확인을 위해 콘텐츠 투명성(Content Transparency) 및 검증 도구 확장을 발표
SynthID 기술을 활용하여 1000억 개 이상의 이미지 및 비디오, 6만 년 분량의 오디오에 워터마킹(Watermarking) 적용
C2PA Content Credentials를 통해 콘텐츠 생성 및 수정 내역을 확인하고, Gemini 앱, Search, Chrome 등에 기능 추가
AI Content Detection API를 출시하여 AI 생성 미디어 식별을 지원하고, 업계 파트너십(Industry Partnership)을 통해 기술 확산
SynthID: 보이지 않는 워터마크 기술
본문에 따르면 SynthID는 AI 생성 콘텐츠에 보이지 않는 신호를 삽입하는 디지털 워터마킹(Digital Watermarking) 기술이다.
1000억 개 이상의 이미지 및 비디오, 6만 년 분량의 오디오에 적용되어 콘텐츠의 출처를 추적
AI 모델(AI Model)에 통합되어 생성 시점부터 워터마크를 적용하여 무결성(Integrity) 보장
오픈소스(Open Source)로 공개되어 업계 전반의 기술 도입을 장려
SynthID는 AI 생성 콘텐츠의 신뢰성(Reliability)을 높이는 핵심 기술이며, AI 환각(Hallucination) 문제를 완화하는 데 기여한다.
C2PA Content Credentials: 콘텐츠 출처 및 변경 내역 추적
글에서는 C2PA Content Credentials를 통해 미디어의 생성 및 수정 내역을 확인할 수 있다고 설명한다.
Pixel 10부터 카메라 앱에서 Content Credentials를 제공하여 원본 콘텐츠 식별
Gemini 앱, Search, Chrome에 기능 추가하여 사용자가 콘텐츠의 출처를 쉽게 파악
AI 생성 콘텐츠(AI-generated content)의 식별 및 수정 도구(Modification Tool) 정보 제공
C2PA는 콘텐츠의 투명성(Transparency)을 높이고, AI 환각(Hallucination)으로 인한 오해를 방지하는 데 기여한다.
AI Content Detection API: AI 생성 미디어 식별
본문에 따르면 AI Content Detection API는 Google Cloud의 Gemini Enterprise Agent Platform에서 제공된다.
Google 및 기타 모델(Other Models)에서 생성된 AI 콘텐츠를 식별하여 AI 생성 콘텐츠(AI-generated content) 감지 지원
피드 정렬(Feed Sorting) 및 보험 사기 방지(Insurance Fraud Prevention) 등 백엔드 운영에 활용
팩트 체크(Fact-checking) 및 합성 미디어(Synthetic Media) 라벨링 등 사용자 대상 콘텐츠 관리
API를 통해 기업은 자사 플랫폼에서 AI 생성 미디어를 효과적으로 관리하고, AI 환각(Hallucination)으로 인한 위험을 줄일 수 있다.
업계 파트너십: 기술 확산 및 표준화 노력
글에서는 OpenAI, Kakao, ElevenLabs 등 다양한 기업이 SynthID 기술을 도입하고 있다고 언급한다.
C2PA Steering Committee 멤버로서 콘텐츠 출처 기술의 글로벌 표준(Global Standard) 제정 지원
Meta는 Instagram에서 Content Credentials를 사용하여 Pixel 폰으로 촬영한 콘텐츠를 식별
NVIDIA와 협력하여 AI 생성 비디오에 워터마크를 적용
업계 협력을 통해 기술의 상호 운용성(Interoperability)을 확보하고, AI 환각(Hallucination) 문제를 해결하기 위한 노력을 지속한다.
