AI, 생산성 도구인가 적대적 커뮤니케이션 무기인가?

본문에서는 AI의 불확실한 오류 생성 패턴 때문에 모든 결과에 대한 인간 검증이 필수적이라고 지적합니다. 이 검증 비용을 다른 사람에게 전가하는 '적(adversary)'을 만들게 되는데, 특히 리버스 센타우르(Reverse Centaur) 현상은 AI가 편한 작업만 수행하고 인간에게는 오류 수정 및 검증 부담을 떠넘기는 상황을 의미합니다. 이는 결국 인간의 노동 가치를 절하하고, AI 도입으로 인한 비용 절감 효과를 상쇄시키는 결과를 낳는다고 설명합니다.

개발 분야에서 LLM은 코드 생성 속도를 높여주지만, 이는 인간의 이해와 검증 비용을 전가하는 방식이라고 분석합니다. '코드 리뷰는 병목'이라는 주장은 LLM이 생성한 코드의 신뢰성 부족을 인간이 메워야 하는 현실을 반영합니다. 특히 '소시오패스적 사다리 오르기(sociopathic ladder-climber)'는 LLM을 이용해 대규모 코드를 생성하고 리뷰어에게 부담을 전가하여 승진을 노리는 행태를 보이며, 이는 프로젝트의 장기적 안정성을 해친다고 지적합니다.

정치적 논쟁이나 스팸, 사기 등에서 LLM은 압도적인 양의 허위 정보(bullshit)를 생성하여 상대방을 무력화시키는 데 사용될 수 있습니다. 이는 브랜디니의 법칙(Brandolini's Law)을 기하급수적으로 증폭시키며, 사회 전반의 신뢰 시스템을 파괴합니다. 또한, 고객 지원 챗봇은 해결 시간 단축(Time-to-Resolution)이라는 지표에만 집중하여 고객 경험을 악화시키고 기업의 장기적 평판을 저해하는 결과를 초래한다고 비판합니다.

학생들이 AI를 이용해 과제를 수행하고 교사가 이를 탐지하기 어렵게 만드는 것은 검증 비용을 교사에게 전가하는 행위입니다. 이는 교육 시스템의 근본적인 문제를 악화시키며, 학습의 본질적 가치를 왜곡합니다. 검색 분야에서는 LLM이 커뮤니티의 지식과 가치를 추출하면서도, 커뮤니티의 규범이나 윤리적 가치 전달을 생략하여 사회적 연결을 약화시키고 개인의 고립을 심화시킬 수 있다고 우려합니다.

본문은 AI가 본질적으로 적대적 커뮤니케이션(adversarial communication)에 능하며, 이를 인지하고 사용하지 않으면 의도치 않게 상대방을 해칠 수 있다고 경고합니다. 보험사의 부당한 청구 거부나 기업의 보증 거부에 맞서는 등 정당한 목적으로 사용될 가능성도 있지만, 이는 결국 자원 우위의 적대자(resource-advantaged adversaries)와의 무기 경쟁으로 이어질 가능성이 높습니다. 궁극적으로 AI의 사용은 누구를 해치고 있는지 끊임없이 자문해야 한다고 강조합니다.