Cloudflare, Workers로 유지보수 시스템 혁신
by DD
5개월 전
조회수 49
Cloudflare Workers를 활용하여 데이터센터 유지보수 일정을 자동화하는 시스템을 구축함
그래프 처리 인터페이스와 Fetch Pipeline을 통해 데이터 로딩 및 API 요청 성능을 개선함
Parquet 파일 형식 도입으로 R2 객체 스토리지의 쿼리 성능 15배 향상
그래프 처리 기반 아키텍처 설계
유지보수 일정 관리 시스템은 Cloudflare Workers를 기반으로 구축되었으며, 그래프 처리 인터페이스를 활용하여 데이터 종속성을 효율적으로 관리한다. 구체적으로, TAO 연구를 참고하여 객체와 연관 관계를 정의하고, 데이터 로딩 최적화를 통해 메모리 사용량을 줄였다. 따라서, 확장성 확보와 성능 향상을 동시에 달성했다.
Fetch Pipeline을 통한 API 요청 최적화
Fetch Pipeline은 Deduplication, LRU Cache, CDN Cache를 활용하여 API 요청 성능을 개선한다. Deduplication은 중복 요청을 방지하고, LRU Cache는 잦은 요청에 대한 응답 속도를 높인다. CDN Cache는 엣지에서 데이터를 캐싱하여 레이턴시 감소 및 비용 절감 효과를 가져온다.
Parquet을 활용한 R2 쿼리 성능 개선
기존 TSDB 기반의 데이터 분석 방식은 R2 객체 스토리지에서 I/O 병목 현상을 발생시켰다. Parquet 파일 형식 도입을 통해 데이터 접근 패턴을 개선하고, CDN 캐싱을 적극 활용했다. 결과적으로, 쿼리 성능 15배 향상을 달성하여 유지보수 분석 속도를 획기적으로 개선했다.