구글, 청소년을 위한 안전한 생성형 AI 로드맵 공개
구글(Google)은 청소년을 위한 생성형 AI 안전성 확보를 위해 세 가지 핵심 원칙(Three Essential Pillars)을 기반으로 정책을 수립
유해 콘텐츠(Harmful Content) 차단을 위해 개발 단계부터 안전 장치를 구축하고, CSAM(Child Sexual Abuse Material) 탐지 등 구체적인 기술적 조치를 시행
전문가 협력(Expert Consultation)을 통해 위험 요소를 발굴하고, AI 윤리(AI Ethics)를 고려한 안전 설계를 적용
AI 리터러시(AI Literacy) 교육 자료 제공 및 학습 도구(Learning Tools) 개발을 통해 청소년의 안전한 AI 활용을 지원
사전 예방 중심의 안전 설계
구글(Google)은 생성형 AI 개발 전 과정에 걸쳐 사전 예방적 안전 장치(Proactive Protection)를 구축하고 있다. 이는 특정 유해 콘텐츠를 사후적으로 차단하는 방식에서 벗어나, 사용자의 입력 단계부터 모델의 출력 단계까지 다양한 안전 필터(Safety Filters)를 적용하는 것을 의미한다.
CSAM 탐지: 아동 성적 학대 관련 콘텐츠(CSAM)를 탐지하고 차단하기 위한 특화된 분류기(Classifier) 사용
정책 위반 방지: 청소년 관련 정책 위반 가능성을 사전에 감지하여 안전한 응답(Safer Response) 유도
이러한 사전 예방적 접근 방식은 잠재적 위험을 최소화하고, 청소년에게 안전한 AI 경험을 제공하는 데 기여한다.
엄격한 테스트와 전문가 협력
구글(Google)은 생성형 AI의 안전성을 확보하기 위해 엄격한 테스트(Rigorous Testing)와 전문가 협력(Expert Consultation)을 병행한다. 이는 기술적 전문성과 아동 심리에 대한 깊이 있는 이해를 바탕으로 안전 장치를 구축하기 위함이다.
적대적 테스트(Adversarial Testing): 새로운 위험과 취약점을 발견하기 위한 적대적 테스트(Adversarial Testing) 수행
외부 전문가 협력: 아동 발달 전문가 등 다양한 분야의 전문가(External Experts)와 협력하여 안전 설계 고도화
CART(Content Adversarial Red Team) 운영: 2025년 한 해 동안 350건 이상의 테스트를 진행하여 안전성 검증(Safety Validation)
이러한 노력을 통해 구글(Google)은 기술적 위험을 최소화하고, 사회적 책임을 다하고자 한다.
AI 윤리를 고려한 안전 설계
구글(Google)은 청소년이 생성형 AI 시스템과 강한 정서적 유대감을 형성할 수 있다는 점을 인지하고, 특정 페르소나(Persona)를 보호하기 위한 설계를 적용했다.
감정적 유대 방지: 감정적 유대 형성(Emotional Connection)을 유발하는 행위(예: 낭만적 관계 시뮬레이션) 금지
유해 캐릭터 역할극 금지: 유해하거나 부적절한 역할극(Role-Playing)을 방지하기 위한 조치
안전 설계 원칙 준수: Thorn의 Safety by Design 원칙을 준수하여 AI 기반 아동 성적 학대 및 착취(AI-facilitated Child Sexual Abuse and Exploitation) 방지
이러한 노력은 청소년이 안전하게 AI 기술을 활용하고, 긍정적인 경험을 할 수 있도록 돕는다.
AI 리터러시 교육 및 학습 도구 개발
구글(Google)은 생성형 AI의 안전한 활용을 위해 AI 리터러시(AI Literacy) 교육을 지원하고, 학습 도구를 개발한다. 이는 청소년들이 AI 기술을 올바르게 이해하고 활용할 수 있도록 돕기 위함이다.
AI 리터러시 자료 제공: 가족을 위한 AI 활용 가이드(AI Conversation Guide) 및 교육 자료 제공
학습 도구 개발: Gemini의 Guided Learning과 같은 학습 보조 도구(Learning Aids) 개발
책임감 있는 사용 장려: 부모와 자녀 간의 대화를 장려하여 책임감 있는 AI 사용(Responsible AI Usage) 유도
이러한 노력은 청소년들이 AI 기술의 긍정적인 측면을 최대한 활용하고, 잠재적 위험으로부터 스스로를 보호할 수 있도록 돕는다.
