퍼블릭 클라우드 캐시 효율성 극대화
기존 스마트 계층형 캐시(Smart Tiered Cache)는 고정된 IP 주소의 오리진에 최적화되었으나, 퍼블릭 클라우드 환경의 동적 IP 문제로 캐시 효율성 저하 발생
클라우드 리전 힌트(Cloud Region Hint) 기능을 도입하여 AWS, GCP, Azure 등 퍼블릭 클라우드 오리진의 실제 위치를 파악하고 최적의 상위 티어 캐시 선택
이를 통해 헤어핀 트래픽(Hairpinning Traffic)을 방지하고 캐시 히트율(Cache Hit Ratio)을 높여 응답 지연 시간(Response Latency)을 크게 단축함
퍼블릭 클라우드 오리진의 동적 IP 문제점
퍼블릭 클라우드 환경의 오리진은 종종 애니캐스트(Anycast) 또는 리저널 유니캐스트(Regional Unicast) 네트워크 뒤에 위치하여 단일 IP 주소가 여러 Cloudflare 데이터 센터에서 가깝게 보일 수 있다. 이로 인해 기존 스마트 계층형 캐시(Smart Tiered Cache)는 명확한 최적 상위 티어(Upper Tier)를 식별하기 어려워 캐시 효율성이 저하되는 문제가 발생했다. 특히, 아시아 지역 오리진에 대한 요청이 미국 시카고 데이터 센터를 경유하는 대륙 간 헤어핀 트래픽(Cross-Continental Hairpinning)은 수백 밀리초의 지연 시간을 유발하는 주요 원인이었다.
클라우드 리전 힌트(Cloud Region Hint) 도입 배경
기존 스마트 계층형 캐시(Smart Tiered Cache)의 한계를 극복하기 위해, 클라우드 리전 힌트(Cloud Region Hint) 기능이 새롭게 도입되었다. 이 기능은 사용자가 직접 오리진 IP의 클라우드 리전 정보(예: `aws:us-east-1`)를 Cloudflare에 제공하도록 하여, 애니캐스트(Anycast) IP의 모호성을 해결한다. 이를 통해 Cloudflare는 오리진의 실제 위치를 정확히 파악하고, 해당 리전에 가장 가까운 상위 티어(Upper Tier)를 우선적으로 선택하여 캐시 성능을 최적화할 수 있다.
애니캐스트(Anycast) 오리진 탐지 메커니즘
스마트 계층형 캐시(Smart Tiered Cache)는 물리적 한계(Speed of Light)를 이용한 지연 시간 측정으로 애니캐스트(Anycast) 오리진을 탐지한다. 여러 체크포인트 데이터 센터에서 오리진 IP까지의 왕복 지연 시간(Round-trip Latency)을 측정하고, 두 지점 간의 합산 지연 시간이 빛의 속도로 이동 가능한 물리적 거리보다 빠르다면 해당 IP가 여러 위치에서 응답하는 애니캐스트(Anycast)로 간주한다. 이 탐지 결과에 따라, 단일 상위 티어 대신 다수의 상위 티어(Multiple Upper Tiers)를 활용하는 안전한 폴백(Fallback) 전략을 사용한다.
스마트 계층형 캐시(Smart Tiered Cache)의 작동 원리
개선된 스마트 계층형 캐시(Smart Tiered Cache)는 지원되는 클라우드 제공업체(AWS, GCP, Azure, Oracle Cloud)의 최신 IP 범위 파일을 주기적으로 동기화한다. 이 IP 접두사(IP Prefix) 정보와 Cloudflare 자체의 15분마다 갱신되는 상위 티어 데이터베이스를 매칭하여, 각 클라우드 리전별 최적의 상위 티어를 결정한다. 만약 충분한 프로브 데이터가 없는 경우, 지리적으로 가장 가까운 Tier 1 PoP를 임시로 사용하다가 실제 데이터가 축적되면 자동으로 전환하는 방식을 사용한다.
인프라스트럭처로서의 캐시 구성
스마트 계층형 캐시(Smart Tiered Cache)의 리전 힌트 설정은 대시보드뿐만 아니라 API 및 Terraform을 통해 지원된다. 이는 사용자가 기존의 인프라스트럭처 코드(Infrastructure as Code, IaC) 워크플로우에 통합하여 자동화된 방식으로 캐시 구성을 관리할 수 있음을 의미한다. 이러한 접근 방식은 반복적인 수동 설정의 번거로움을 줄이고, 대규모 환경에서의 일관성 있는 캐시 정책 적용을 가능하게 한다.