생성형 AI, 인권 침해 설계로 규제 논쟁 가열

보고서에 따르면, 생성형 AI 시스템은 대규모 개인 정보 침해(Mass Invasion of Privacy)를 설계의 일부로 포함하며, 이는 국제 인권법(IHRL)과 근본적으로 양립할 수 없다고 지적한다. 특히 동의 없는 데이터 수집(Data Collection Without Consent) 및 보상 없는 활용(Uncompensated Usage)은 AI 모델 학습 과정에서 발생하는 주요 문제로 언급된다. 이러한 관행은 프라이버시권 남용(Abuse of Privacy Rights)으로 이어져 규제가 필요하다는 주장이 제기된다.

커뮤니티에서는 AI 기반 의사 결정 과정에서 발생하는 편향성(Bias)과 재고 수단(Recourse)의 부재가 심각한 문제로 지적된다. AI 모델이 학습 데이터의 편견을 그대로 답습하여 특정 집단에 대한 차별을 강화하거나 새로운 형태의 불평등을 야기할 수 있다는 우려가 나온다. 따라서 AI 시스템의 투명성(Transparency) 확보와 함께, AI 결정에 대한 이의 제기 및 수정 절차 마련이 시급하다는 의견이 지배적이다.

Amnesty International의 생성형 AI 시스템 금지 요구에 대해, 일부에서는 이를 실현 불가능한 이상주의(Untenable Idealism)로 치부할 수 있다는 의견이 제시되었다. 그러나 다른 한편에서는 인간의 권리와 양립할 수 없는 기술에 대한 금지 요구는 당연한 조치이며, 이를 비현실적이라 치부하는 것은 문제 해결을 회피하는 태도라는 반박이 나온다. 기술 발전과 인권 보호 사이의 균형점을 찾는 것이 중요하다는 논의가 이어진다.