카카오, AI 윤리 및 안전성 확보에 총력!
by DD
8개월 전
조회수 0
AI 윤리와 리스크 관리의 중요성이 대두됨에 따라, 카카오가 관련 프레임워크를 구축
AI 윤리 원칙 10가지 제시 및 AI Safety Initiative를 통해 리스크 관리 체계화
편향성 탐지, 공정성 검증 등 기술적 노력으로 AI 신뢰성 확보 노력
AI 윤리 원칙의 기술적 구현
카카오는 AI 편향성 탐지를 위해 데이터 검토 및 모델 단계에서의 교정을 시도한다. 구체적으로 공정성 지표와 반사실적 설명을 활용하여 모델의 예측 결과를 분석한다. 따라서 AI 시스템의 투명성을 높이고 신뢰도 향상을 목표로 한다.
AI 리스크 관리 사이클 분석
카카오의 리스크 관리 사이클은 리스크 식별-평가-대응 단계로 구성된다. 기술적 리스크와 윤리적 리스크를 구분하여, 각 리스크에 맞는 평가를 적용한다. 반면, AI 리스크 거버넌스는 안전한 AI 개발을 위한 의사결정 체계를 제공하며, AI 안전 전담 조직을 운영한다.
AI 가드레일 시스템의 역할
최근 LLM의 발전으로 유해 콘텐츠 생성에 대한 우려가 커지고 있다. 따라서 카카오는 자체 AI 가드레일 모델을 개발하여 AI 서비스의 안전성을 높인다. 결과적으로 AI 윤리 실천에 대한 공정성과 객관성을 확보하고, 이용자 보호를 강화한다.
