Claude Code 레이트 리밋 변경, 개발자 불만 폭주!

Anthropic은 Claude Code의 레이트 리밋 정책을 변경하여, 특히 특정 시간대(오전 5시~11시)에 사용자 경험에 부정적인 영향을 미치고 있다고 발표자는 지적합니다. 이는 컴퓨팅 자원 부족 문제와 맞물려, 연구, 제품, 사용자 간의 GPU 할당 갈등을 심화시키며 개발자들의 불만을 야기하고 있습니다. 특히 2배의 사용량 증가와 5시간 제한은 기존 사용자들에게 큰 불편을 초래합니다.

영상에서는 Anthropic 내부적으로 연구, 제품, 사용자 그룹 간의 GPU 자원 할당 갈등이 존재함을 시사합니다. 연구팀은 더 많은 컴퓨팅 파워를 필요로 하고, 제품팀은 사용자 경험을 위해, 사용자는 실제 서비스 이용을 위해 GPU를 요구합니다. 이러한 자원 배분 문제는 레이트 리밋 변경의 근본 원인으로 보이며, 연구 우선순위와 사용자 만족도 사이의 균형점을 찾기 어려운 상황을 보여줍니다.

발표자는 Anthropic의 소통 방식과 투명성 부족을 비판합니다. 레이트 리밋 변경에 대한 불투명한 공지와 개발자 커뮤니티와의 소통 부재는 사용자들의 불신을 증폭시키고 있습니다. 특히, 토크(Thoerk)라는 개인 계정을 통해 비공식적으로 정보가 공유되는 방식은 신뢰도 하락의 주요 원인으로 지적됩니다. 이는 서비스의 장기적인 성공에 부정적인 영향을 미칠 수 있습니다.

변경된 레이트 리밋은 사용자 경험을 직접적으로 저하시킵니다. 특히 7%의 사용자가 제한을 경험할 것이라는 예측은 상당한 수치이며, 이는 서비스의 예측 가능성과 안정성에 대한 의문을 제기합니다. 사용자들은 갑작스러운 제약으로 인해 작업 흐름이 끊기고 생산성이 저하되는 경험을 하고 있으며, 이는 서비스에 대한 전반적인 만족도 하락으로 이어질 수 있습니다.

Anthropic은 레이트 리밋을 관리하기 위해 배치(Batch) 처리 방식을 도입했습니다. 이는 실시간 요청 처리의 비용 효율성을 높이기 위한 시도이지만, 결과적으로 사용자 경험을 저해합니다. 특히 실시간성이 중요한 작업의 경우, 배치 처리로 인한 지연은 치명적일 수 있습니다. 이는 사용자 요구사항과 비용 최적화 사이의 균형을 맞추는 데 어려움이 있음을 보여줍니다.