NVIDIA, GPU 클라우드 플랫폼 NVCF를 오픈소스로 공개!
by DD
2개월 전
조회수 2
NVIDIA가 GPU 기반 클라우드 기능 플랫폼인 NVCF(NVIDIA Cloud Functions)를 오픈소스로 공개하여, 내부 아키텍처와 구현 방식을 투명하게 공개함
NVCF는 NATS JetStream을 활용한 스케일 투 제로(Scale-to-Zero) 기능을 통해 GPU 자원 효율성을 극대화하고, 콜드 스타트(Cold Start) 문제를 해결함
멀티 클러스터(Multi-Cluster) 환경 지원을 통해 온프레미스(On-premise) 및 클라우드 환경에서 GPU 자원 관리를 통합함
커뮤니티에서는 Olric과 같은 기술의 활용 사례에 대한 관심과 함께, 오픈소스 기여(Open Source Contribution)에 대한 기대감을 표명함
NVCF의 3-Plane 아키텍처(Three-Plane Architecture) 심층 분석
NVCF는 Control Plane, Invocation Plane, Compute Plane으로 구성된 3-Plane 아키텍처(Three-Plane Architecture)를 채택하여 각 구성 요소의 독립적인 스케일링(Independent Scaling)을 지원한다. Control Plane은 Kubernetes 클러스터에서 실행되며, 함수 라이프사이클 관리, 오토스케일링(Autoscaling) 결정, 시크릿 관리(Secrets Management)를 담당한다. Invocation Plane은 HTTP/gRPC 요청 처리 및 NATS JetStream을 통한 메시지 큐잉(Message Queuing)을 수행하며, Compute Plane은 NVIDIA Cluster Agent(NVCA)를 통해 GPU 클러스터(GPU Cluster)를 관리한다. 이러한 분리된 구조는 시스템의 확장성(Scalability)과 유연성(Flexibility)을 향상시킨다.
