AI 에이전트, 이제 똑똑하게 에러 처리! 98% 비용 절감!
AI 에이전트(AI Agents)가 웹을 탐색하며 발생하는 에러에 대해 기존 HTML 대신 RFC 9457 표준을 준수하는 구조화된 응답을 제공
text/markdown, application/json, application/problem+json 형식의 에러 응답을 지원하며, 에이전트가 문제 해결 지침(Actionable Guidance)을 얻도록 설계
HTML 대비 98% 이상의 페이로드(Payload) 크기 및 토큰 사용량 절감 효과를 통해 비용 효율성(Cost Efficiency)을 향상
Cloudflare 네트워크 전반에 자동 적용되며, 사이트 소유자는 별도 설정 불필요
에이전트가 재시도(Retry) 여부, 대기 시간, 에스컬레이션(Escalation) 여부를 결정하는 데 필요한 정보를 제공
RFC 9457 표준 기반의 구조화된 에러 응답
본문에서 Cloudflare는 AI 에이전트(AI Agents)를 위해 RFC 9457(Problem Details for HTTP APIs) 표준을 준수하는 구조화된 에러 응답을 제공한다고 설명한다.
type, status, title, detail, instance 등의 필드를 포함하는 JSON 형식의 응답을 통해 에러의 종류, 상태, 상세 정보, 발생 위치를 명확히 전달
error_code, error_name, retryable, retry_after, owner_action_required 등의 확장 필드를 통해 에이전트가 에러를 처리하고, 재시도 여부 및 대기 시간을 결정하도록 지원
text/markdown, application/json, application/problem+json 등 다양한 Accept 헤더(Accept Header)를 지원하여 에이전트의 유연성을 확보
HTML vs 구조화된 에러 응답: 효율성 비교
기존 HTML 기반 에러 응답은 AI 에이전트(AI Agents)에게 불필요한 정보를 제공하여 토큰 낭비 및 처리 시간 지연을 야기했다. Cloudflare는 구조화된 에러 응답을 통해 이러한 문제를 해결했다.
HTML 대비 98% 이상의 페이로드(Payload) 크기 및 토큰 사용량 절감 효과
1015(rate-limit) 에러를 예시로, HTML 응답은 46,645 바이트(Bytes) 및 14,252 토큰을 사용, Markdown 응답은 798 바이트(Bytes) 및 221 토큰, JSON 응답은 970 바이트(Bytes) 및 256 토큰을 사용
에이전트가 여러 에러를 처리하는 경우, 절감 효과가 더욱 커져 비용 효율성(Cost Efficiency)을 극대화
에이전트(Agent)를 위한 실행 지침 제공
구조화된 에러 응답은 단순한 에러 정보 전달을 넘어, AI 에이전트(AI Agents)가 에러 상황에 능동적으로 대처(Proactive Action)할 수 있도록 돕는다.
retryable, retry_after, owner_action_required 필드를 통해 에이전트가 재시도 여부, 대기 시간, 에스컬레이션(Escalation) 필요 여부를 판단
access_denied, rate_limit, dns, config 등 10가지 에러 카테고리를 정의하고, 각 카테고리별로 에이전트의 행동 지침을 명시
예시: rate_limit 에러 발생 시, retryable: true, retry_after: 30을 통해 30초 대기 후 재시도하도록 지시
구현 방법 및 테스트
Cloudflare는 AI 에이전트(AI Agents)가 구조화된 에러 응답을 활용할 수 있도록 다양한 방법을 제공한다.
Accept 헤더(Accept Header)를 통해 원하는 응답 형식(Markdown, JSON)을 지정
/cdn-cgi/error/1015 엔드포인트(Endpoint)를 통해 테스트 가능
curl 명령어를 사용하여 에러 응답을 직접 확인 가능
Python 예시 코드를 제공하여 에러 응답 처리 로직 구현을 지원
AI 에이전트(AI Agents) 생태계에 미치는 영향
Cloudflare의 구조화된 에러 응답 도입은 AI 에이전트(AI Agents) 생태계에 긍정적인 영향을 미칠 것으로 예상된다.
모델 비용 절감(Model Cost Reduction): 불필요한 토큰 사용을 줄여 에이전트 운영 비용을 절감
성능 향상(Performance Improvement): 에러 처리 시간 단축 및 재시도 로직 최적화를 통해 에이전트의 전반적인 성능 향상
개발 편의성 증대(Developer Experience Enhancement): 명확한 에러 정보와 실행 지침을 통해 개발자가 에이전트의 에러 처리 로직을 쉽게 구현
표준화된 에러 응답(Standardized Error Response): RFC 9457 표준 채택으로 다양한 HTTP 클라이언트(HTTP Client) 라이브러리에서 호환성 확보
