StarRocks Resource Group으로 멀티테넌트 환경 CPU 격리

토스 쇼핑은 StarRocks 클러스터에서 실시간 서비스 쿼리(Real-time Service Query)와 헤비 배치성 워크로드(Heavy Batch Workload)를 함께 운영하며, 성능 문제를 겪었다. 초기에는 cpu_weight 설정을 통해 서비스 쿼리에 높은 우선순위를 부여했지만, 배치 작업의 부하로 인해 서비스 응답 시간이 불안정했다.

결론적으로, cpu_weight는 일반적인 상황에서 유용하지만, 하드 격리가 필요한 경우 exclusive_cpu_cores가 효과적이다.

Docker 환경에서 StarRocks를 운영할 때, Resource Group의 기능을 제대로 활용하기 위해서는 Docker 컨테이너의 CPU 설정에 주의해야 한다. 특히, exclusive_cpu_cores, bind_cpus, cpu_borrowing 간의 의존 관계를 이해하는 것이 중요하다.

Docker --cpuset-cpus 설정을 통해 bind_cpus를 활성화하지 않으면, borrowing 기능이 제대로 동작하지 않아 CPU 자원 낭비(CPU Resource Waste)가 발생할 수 있다.

Classifier는 쿼리를 리소스 그룹에 매칭하는 규칙으로, 쿼리 속성(Query Attribute)을 기반으로 한다. 안정적인 운영을 위해서는 user 또는 db 기반으로 Classifier를 설계하는 것이 권장된다.

Classifier 설계는 워크로드 격리의 핵심이며, 운영 환경에 맞는 유연한 설계를 통해 성능(Performance)과 안정성(Stability)을 확보해야 한다.

Resource Group이 의도대로 동작하는지 확인하기 위해서는 쿼리 이력 모니터링이 필수적이다. StarRocks의 AuditLoader 플러그인을 활용하여 쿼리 실행 로그를 수집하고, resourceGroup, pendingTimeMs, queryTime, cpuCostNs 등의 필드를 통해 리소스 그룹의 동작을 추적할 수 있다.

쿼리 이력 모니터링을 통해 Resource Group 설정의 효과를 검증하고, 지속적인 개선을 수행해야 한다.