Anthropic, Claude Code의 작업 내역 숨기려다 개발자들에게 뭇매?

Anthropic이 Claude Code의 AI 작업 내역을 숨기려 하는 배경에는 AI 환각(Hallucination)으로 인한 예기치 않은 코드 변경을 방지하려는 의도가 있을 수 있다. 하지만, 개발자들은 AI가 코드베이스(Codebase)에 접근하여 변경을 시도할 때, 어떤 파일에 어떤 변경을 가하는지 정확히 파악해야 한다고 주장한다. 이는 빌드(Build) 실패를 막고, 예상치 못한 문제를 사전에 감지하기 위한 필수적인 과정이다.

개발자들은 AI가 코드베이스(Codebase)를 수정하기 전에, 어떤 파일을 읽고 변경하는지 정확하게 파악할 수 있는 관찰 가능성(Observability)을 요구한다. 이는 단순히 호기심 충족을 넘어, AI가 의도하지 않은 방식으로 코드(Code)를 수정하는 경우를 감지하고, 데이터 격리 아키텍처(Data Isolation Architecture)를 통해 시스템의 안정성을 확보하기 위한 필수적인 요구사항이다. 디버깅(Debugging) 과정에서 로그(Log)가 중요한 역할을 하는 것과 유사하다.

Anthropic은 verbose 모드를 통해 파일 경로를 표시하는 방식으로 대응했지만, 개발자들은 여전히 불만을 표출하고 있다. 특히, AI의 사고 과정(Thinking Process)을 숨기는 것은, 마치 마이크로서비스(Microservice)의 로그를 숨기는 것과 같다는 비판이 제기된다. 이는 AI 모델(AI Model)의 동작 원리를 이해하고, 문제 발생 시 신속하게 대응하는 것을 어렵게 만든다는 지적이다.

AI 모델 간의 경쟁이 심화되면서, 개발자 커뮤니티의 지지를 얻는 것이 중요해지고 있다. Anthropic은 개발자 친화적인 정책을 통해 경쟁 우위를 확보하려 했지만, 이번 작업 내역 숨김 시도로 인해 오히려 신뢰(Trust)를 잃을 수 있다는 우려가 제기된다. 오픈소스(Open Source) 생태계와의 연계, 데이터 미저장 정책(Zero-Retention Policy) 등 개발자들의 요구에 부응하는 정책이 필요하다는 목소리가 높다.