클라우드플레어, AI 기반 개발 환경 구축으로 개발 생산성 획기적 향상

클라우드플레어(Cloudflare)는 자체 플랫폼 기반 AI 코딩 도구를 구축하여 R&D 조직의 93%가 사용하며, 개발 생산성(Developer Velocity) 향상을 이룸

AI Gateway, Workers AI, AI Code Reviewer 등 자체 개발 AI 엔지니어링 스택을 통해 개발 환경(Development Environment) 전반을 혁신

AI Code Reviewer를 통해 모든 MR(Merge Request)에 대한 자동 코드 리뷰를 수행하고, 엔지니어링 표준(Engineering Standards) 준수를 강화

AGENTS.md를 통해 각 레포지토리(Repository)의 컨텍스트를 AI 에이전트(Agent)에게 제공하여 코드 품질(Code Quality) 및 개발 효율(Development Efficiency) 개선

AI Gateway를 활용한 보안 및 개발자 경험 개선

클라우드플레어(Cloudflare)는 3,600명 이상의 내부 사용자를 위해 Cloudflare Access를 통해 인증 및 제로 트러스트(Zero Trust) 정책을 구현했다. 모든 LLM 요청은 AI Gateway를 거치며, 이를 통해 프로바이더 키(Provider Keys), 비용 추적(Cost Tracking), 데이터 미저장 정책(Zero-Retention Policy)을 중앙에서 관리한다.

OpenCode는 하루 688.46k 요청, 10.57B 토큰을 처리하며, 4개의 프로바이더로 라우팅

AI Gateway는 모델 프로바이더별 월간 사용량 분석을 제공하며, Workers AI는 비용 효율적인 AI 추론을 담당

단일 프록시 워커(Proxy Worker)를 통해 사용자별 속성 부여, 모델 카탈로그 관리, 권한 관리를 용이하게 함

Workers AI를 활용한 비용 절감 및 성능 향상

클라우드플레어(Cloudflare)는 Workers AI를 통해 오픈소스 모델을 자사 글로벌 네트워크에서 실행하여, 프론티어 모델 대비 비용을 절감하고 지연 시간(Latency)을 줄였다. 특히, 256k 컨텍스트 윈도우(Context Window)를 가진 Kimi K2.5 모델을 활용하여 보안 에이전트(Security Agent)를 운영하며, 연간 240만 달러의 비용을 77% 절감했다.

Workers AI는 CI 파이프라인(CI Pipeline)에서 문서 검토, AGENTS.md 파일 생성, 경량 추론 작업에 활용

단일 URL 설정(One URL to Configure Everything)을 통해 사용자는 간편하게 AI 도구를 설정

제로 데이터 보존(Zero Data Retention)을 위해, 시간별 크론 트리거(Cron Trigger)를 통해 모델 목록을 갱신하고, 익명 사용자 추적을 통해 비용 추적 및 사용량 분석을 수행

MCP Server Portal 및 Code Mode를 통한 확장성 확보

클라우드플레어(Cloudflare)는 MCP Server Portal을 통해 13개의 MCP 서버(MCP Servers)를 통합하여, 182개 이상의 도구에 대한 접근을 단일 엔드포인트(Endpoint) 및 Cloudflare Access를 통해 관리한다. 각 MCP 서버는 Agents SDK, workers-oauth-provider, Cloudflare Access를 기반으로 구축되었으며, 단일 모노레포(Monorepo)에서 관리된다.

Code Mode를 통해, 각 도구의 스키마(Schema)를 로드하는 대신, 모델이 코드를 통해 도구를 발견하고 호출

Code Mode는 컨텍스트 오버헤드(Context Overhead)를 줄이고, 토큰 비용을 절감하며, 아키텍처를 단순화

Code Mode를 통해, 34개의 도구 스키마가 소비하던 15,000 토큰을 절감

Backstage를 활용한 지식 그래프 구축

클라우드플레어(Cloudflare)는 Backstage를 서비스 카탈로그(Service Catalog)로 활용하여, 서비스 및 인프라에 대한 구조화된 데이터를 관리한다. 이를 통해 AI 에이전트(Agent)가 코드베이스(Codebase) 외의 컨텍스트를 이해하도록 돕고, 개발자는 서비스 소유자, 종속성, API 스펙(API Specs) 등을 쉽게 파악할 수 있다.

Backstage는 2,055개의 서비스, 167개의 라이브러리, 122개의 패키지를 추적

Backstage는 228개의 API, 544개의 시스템, 1,302개의 데이터베이스, 375개의 팀 및 6,389명의 사용자 정보를 관리

Backstage MCP 서버를 통해, 코딩 세션(Coding Session) 내에서 서비스 소유자, 종속성, API 스펙 등을 확인 가능

AGENTS.md를 통한 코드베이스 컨텍스트 제공

클라우드플레어(Cloudflare)는 각 레포지토리(Repository)에 AGENTS.md 파일을 생성하여, 코딩 에이전트(Coding Agent)에게 코드베이스(Codebase)의 구조, 컨벤션(Conventions), 경계(Boundaries)에 대한 정보를 제공한다. 이를 통해 에이전트는 코드 변경 시, 로컬 컨텍스트(Local Context)를 정확하게 파악하고, 코드 품질을 향상시킬 수 있다.

AGENTS.md는 런타임, 테스트 명령어, 린트 명령어, 코드베이스 탐색 방법, 컨벤션, 경계, 종속성 정보를 포함

AI Code Reviewer는 AGENTS.md의 변경 사항을 감지하여, 파일 업데이트를 유도

AGENTS.md는 AI 에이전트가 코드베이스를 처음부터 추론하는 대신, 명시적인 정보를 활용하도록 지원

AI Code Reviewer를 활용한 코드 품질 및 표준 준수 강화

클라우드플레어(Cloudflare)는 모든 MR(Merge Request)에 대해 AI Code Reviewer를 통해 자동 코드 리뷰를 수행한다. AI Code Reviewer는 GitLab CI 컴포넌트(Component)로 구현되어, 코드 품질, 보안, 코덱스(Codex) 준수, 문서화, 성능, 릴리스 영향(Release Impact) 등을 검토한다.

AI Code Reviewer는 AI Gateway를 통해 모델에 접근하고, Engineering Codex 규칙 및 AGENTS.md를 활용

AI Code Reviewer는 각 MR에 대한 위험 등급(Risk Tier)을 분류하고, 전문 에이전트(Specialized Agent)에게 작업을 위임

AI Code Reviewer는 이전 리뷰에서 수정된 사항을 인지하고, Engineering Codex 규칙을 인용하여 피드백 제공