OpenAI, '안전' 삭제… AI 안전성 논란 점화
OpenAI가 미션 문구에서 '안전하게(safely)'라는 단어를 삭제하며, 영리화 과정에서의 안전 불감증(Safety Negligence) 논란이 발생함
OpenAI의 비영리에서 영리 기업으로의 전환과 MS 등 투자 유치 과정에서 안전에 대한 강조가 약화되었다는 비판이 제기됨
커뮤니티에서는 AI 안전성에 대한 우려와 함께, OpenAI의 수익 우선주의(Profit-First Approach)에 대한 비판적인 시각이 지배적임
AI 안전을 위한 규제 및 기업의 책임에 대한 논의가 필요하다는 의견과, AI 기술 발전의 불가피한 위험성(Inevitable Risks)에 대한 현실적인 인식이 공존함
미션 문구 변경의 배경: 영리화와 투자 유치
OpenAI는 2019년 영리 자회사를 설립하여 Microsoft로부터 130억 달러 이상의 투자를 유치했다. 2025년에는 캘리포니아 및 델라웨어 검찰총장과의 합의를 통해 영리 기업으로 전환하며, 투자 유치에 더욱 집중하는 모습을 보였다. 이러한 변화는 OpenAI가 수익 창출(Profit Generation)을 최우선 목표로 설정하고, 안전에 대한 강조를 약화시키는 결과를 초래했다는 비판을 받는다.
안전성 약화에 대한 커뮤니티의 우려
커뮤니티에서는 OpenAI의 미션 문구에서 '안전하게(safely)'라는 단어 삭제를 두고, AI 안전성에 대한 우려를 표명했다. 특히, ChatGPT가 자살 관련 정보를 제공하거나, AI 환각(Hallucination)으로 인한 문제 발생 등, AI 기술의 위험성을 지적하는 목소리가 높다. 또한, OpenAI가 안전 관련 팀을 해체하고, 설득/조작 위험(Persuasion/Manipulation Risks)에 대한 평가를 중단한 점도 비판의 대상이 되었다.
AI 안전을 위한 규제 및 기업의 책임
일부에서는 OpenAI의 사례를 통해 AI 기술 발전에 따른 사회적 책임을 강조하며, AI 안전 규제(AI Safety Regulations)의 필요성을 제기한다. 또한, 기업이 안전을 소홀히 할 경우 발생할 수 있는 법적 책임과 윤리적 문제에 대한 경고도 나온다. GDPR 규제 준수(GDPR Compliance)와 같은 데이터 관련 규제처럼, AI 안전에 대한 명확한 기준 마련이 필요하다는 주장이다.
AI 기술 발전과 안전의 딜레마
일부 전문가들은 AI 기술 발전의 불가피한 위험성을 언급하며, 안전과 혁신 사이의 균형을 강조한다. AI 기술의 발전 속도(Pace of AI Development)를 고려할 때, 완벽한 안전을 보장하는 것은 현실적으로 어렵다는 것이다. 따라서, AI 기술 개발과 함께 안전 문제를 지속적으로 개선해 나가는 노력이 필요하며, AI 윤리(AI Ethics)에 대한 사회적 합의를 이루는 것이 중요하다고 강조한다.
