AI 초지능화, 'Plan A'로 위험을 관리할 수 있을까?

커뮤니티에서는 Plan A가 제시하는 2040년까지 초지능화 연기 및 국제적 합의라는 시나리오가 지나치게 낙관적이며 현실성이 부족하다는 비판이 제기됨. 특히, AI 연구의 투명성 확보와 국가 간 협력이 현재 지정학적 상황에서 실현 가능할지에 대한 의문이 많음. 일부는 이러한 접근 방식이 실제 위험을 간과하고 창의적인 글쓰기 연습에 가깝다고 지적함.

많은 논의에서 AI, 특히 LLM의 발전이 S곡선(Sigmoid Curve)의 정점에 도달했다는 의견과 여전히 지수적 성장(Exponential Growth)이 가능하다는 의견이 대립함. 판도라의 상자가 열렸다는 인식 하에, 연구를 중단하기보다는 기술 발전과 규제를 병행해야 한다는 주장이 제기됨. 또한, AI가 인간의 고차원적 사고 능력을 완전히 대체하기 어렵다는 반론도 존재함.

Plan A는 권력 집중 문제를 해결하려 하지만, 일부에서는 여전히 소수 기업 또는 국가에 의한 통제 가능성을 우려함. 특히 미국과 중국 간의 경쟁 구도가 AI 발전 속도와 통제 방식에 영향을 미칠 것이라는 시각이 있음. 서구 중심주의(Western Chauvinism)에 대한 비판과 함께, AI 기술이 전 세계적으로 분산되어야 한다는 의견도 제시됨.

일부 댓글에서는 AI 안전성 논의가 AI 자체의 위험보다는 기업의 고객 및 직원에게 미치는 피해에 초점을 맞춰야 한다고 주장함. 법적 책임 강화와 소송 및 보험을 통한 위험 가격 책정이 대안으로 제시됨. 또한, LLM 및 확산 모델이 AGI(Artificial General Intelligence) 또는 ASI(Artificial Superintelligence)로 이어질 것이라는 전제 자체의 오류 가능성을 인정하지 않는 논의 방식에 대한 비판도 있음.

시나리오에서 제시된 막대한 GPU 인프라 투자 규모(2034년까지 100조 달러)에 대한 회의적인 시각이 존재함. 이는 미국 GDP의 세 배에 달하는 금액으로, 전례 없는 수준의 중앙은행식 통화 발행 없이는 불가능하다는 지적이 있음. 이러한 자본 조달의 현실성에 대한 의문은 Plan A의 실행 가능성에 대한 근본적인 질문을 던짐.