Cloudflare, 러스트(Rust) 서비스의 무중단 배포를 위한 ecdysis 라이브러리 공개!

Cloudflare는 서비스 중단을 최소화하기 위해 러스트(Rust) 기반의 무중단 재시작 라이브러리인 ecdysis를 오픈소스로 공개

ecdysis는 소켓 상속(Socket Inheritance) 방식을 활용하여 기존 연결을 유지하고 새로운 연결 거부 없이 서비스 재시작을 지원

5년간의 프로덕션 환경(Production Environment) 운영을 통해 수백만 건의 요청(Request)을 절약하고, 안정적인 서비스 운영을 입증

ecdysis는 유닉스(Unix) 기반 시스템 콜(System Call)에 의존하므로 윈도우(Windows) 환경에서는 사용 불가

무중단 배포의 핵심, 소켓 상속(Socket Inheritance)

ecdysis는 기존 서비스 중단 없이 새로운 코드를 배포하기 위해 소켓 상속(Socket Inheritance) 방식을 사용한다. 기존 방식은 새로운 프로세스가 시작되는 동안 연결이 끊어지고 새로운 연결을 거부하는 문제가 발생한다.

fork() 및 execve(): 부모 프로세스(Parent Process)가 자식 프로세스(Child Process)를 fork()하고, execve()를 통해 새로운 코드를 실행

소켓 파일 디스크립터(Socket File Descriptor) 상속: 자식 프로세스는 부모 프로세스로부터 소켓 파일 디스크립터를 상속받아 기존 연결 유지(Existing Connection Preservation)

안전한 초기화(Safe Initialization): 자식 프로세스 초기화 중 오류 발생 시, 부모 프로세스가 계속 연결을 처리하여 서비스 중단 방지(Service Outage Prevention)

이러한 방식을 통해 Cloudflare는 수백만 건의 요청을 절약하고, 안정적인 서비스 운영을 가능하게 했다.

ecdysis vs. 기존 방식: 트레이드오프(Trade-offs) 분석

기존 서비스 재시작 방식은 새로운 프로세스가 시작될 때까지 연결을 거부하고, 기존 연결을 종료하는 문제를 야기한다. ecdysis는 이러한 문제를 해결하기 위해 소켓 상속(Socket Inheritance)을 사용하지만, 몇 가지 트레이드오프(Trade-offs)가 존재한다.

fork() 및 execve() 사용: 유닉스(Unix) 시스템 콜(System Call)에 의존하므로 윈도우(Windows) 환경에서는 사용 불가

보안 고려 사항: 두 프로세스(Parent/Child)가 동일한 소켓에 접근하는 짧은 시간 동안의 보안 취약점(Security Vulnerability) 발생 가능성

seccomp 호환성: graceful restart를 위해서는 fork() 및 execve()를 허용해야 하므로, seccomp 필터(seccomp Filter) 설정에 제약

하지만, Cloudflare는 이러한 트레이드오프(Trade-offs)를 감수하고도 얻는 이점이 훨씬 크다고 판단했다.