클로드(Claude) 헌법 공개, AI 윤리 논쟁에 불을 지피다.

앤트로픽(Anthropic)은 클로드(Claude)의 가치와 행동을 정의하는 헌법을 공개하며, 이는 모델 훈련의 핵심 요소라고 강조한다. 헌법은 모델이 세상을 이해(Understanding the World)하고, 어려운 상황에서 올바른 판단을 내릴 수 있도록 돕는 역할을 한다. 헌법은 클로드의 행동을 직접적으로 규정하며, 앤트로픽은 헌법을 준수하는 모델을 개발하기 위해 노력한다.

커뮤니티에서는 앤트로픽(Anthropic)이 제시하는 윤리적 기준의 상대성을 지적하며, 헌법이 앤트로픽의 주관적인 가치에 따라 변경될 수 있다는 점을 우려한다. 특히, '좋은 가치(Good Values)'가 고정된 기준이 아닌 앤트로픽의 판단에 따라 결정된다는 점을 비판하며, 이는 AI의 윤리적 기준이 주관적일 수 있음을 시사한다. 또한, 헌법이 '안전성(Safety)'을 최우선으로 고려하는 점에 대한 논쟁도 존재한다.

일부에서는 헌법이 일반적인 클로드(Claude) 모델에 적용되며, 특수 목적 모델에는 예외가 있을 수 있다는 점에 주목한다. 이러한 예외 조항은 데이터 미저장 정책(Zero-Retention Policy)과 같은 안전 장치가 적용되지 않은 모델의 존재 가능성을 시사하며, 이는 정부 기관이나 특정 목적을 위해 사용될 수 있는 모델에 대한 우려를 낳는다. 헌법의 투명성에도 불구하고, 특수 목적 모델의 운영 방식에 대한 정보 부족은 불확실성을 증폭시킨다.

일부 커뮤니티 구성원들은 헌법이 마케팅 전략(Marketing Strategy)이나 법적 책임 회피(Legal CYA)를 위한 수단일 뿐, 실제 모델의 행동에 큰 영향을 미치지 못할 수 있다고 주장한다. 헌법이 모델 훈련 과정에 직접적인 영향을 미친다는 앤트로픽의 설명에도 불구하고, 헌법의 내용이 모델의 행동을 얼마나 효과적으로 제어할 수 있는지에 대한 의문이 제기된다. 또한, 헌법에 명시된 AI 환각(Hallucination) 방지 및 조작 방지 조항의 실효성에 대한 의구심도 존재한다.