큐(Queue)의 함정을 파헤치다

커뮤니티에서는 잡 큐(Job Queue)의 네 가지 실행 시맨틱(Parallel Spawn, Prefer New, Wait, Prefer Old)을 분석하며, 특히 'Prefer Old'가 특정 주말 워크로드 시나리오에서 가장 적합하다고 평가합니다. 이는 7시간 소요되는 작업과 3시간 간격 스케줄링 시, 'Prefer Old'만이 계산 리소스 낭비(Compute Resource Waste)를 최소화하고 예측 가능한 완료 시간(Predictable Completion Time)을 보장하기 때문입니다. 반면 'Prefer New'는 무한 루프에 빠져 리소스를 소모하고, 'Wait'는 미처리 작업량(Pending Workload)을 누적시켜 다음 주까지 영향을 미친다고 지적합니다.

글쓴이는 시스템 설계 시 큐 경계(Queue Boundaries), 제한(Limits), 오류 모델(Fault Models)이라는 세 가지 렌즈를 적용하는 것이 중요하다고 강조합니다. 특히 큐는 종종 최대치에 가깝거나 최소치에 가까운 상태를 유지하므로 적절한 크기 설정이 어렵고, 예상치 못한 지연 시간(Unexpected Latency)을 유발할 수 있습니다. 또한, 명시적인 자원 예산(Resource Budget) 설정과 의존성 오류 모델(Dependency Fault Models)에 대한 이해가 시스템의 점진적 성능 저하(Graceful Degradation)를 가능하게 한다고 설명합니다.

주말에는 7시간 걸리는 '도매 리팩토링(Wholesale Repacking)'을, 주중에는 2시간 걸리는 '증분 리팩토링(Incremental Repacking)'을 실행하려는 목표에서 'Prefer Old' 시맨틱이 주목받습니다. 이 방식은 3시간 간격 스케줄링 시, 실행 중인 7시간 작업이 완료되지 않으면 새 작업을 취소하여 계산 시간(Compute Time) 낭비를 방지합니다. 이는 'Wait' 방식이 야기하는 장기적인 작업 대기열 누적(Long-term Queue Buildup) 문제와 달리, 빠른 복구(Quick Recovery)를 가능하게 합니다.

이 글은 잡 큐(Job Queue) 시스템이 겉보기에는 단순해 보이지만, 실제로는 스케줄링 간격(Scheduling Interval)과 동시성 제한(Concurrency Limit)이라는 두 가지 기본 설정만으로 복잡한 시나리오를 처리하기 어렵다는 점을 보여줍니다. 특히, 작업 실행 시간(Job Runtime)의 비결정성(Non-determinism)과 소비자 활동 패턴(Consumer Activity Patterns)을 고려할 때, 직관적인 설정이 오히려 심각한 성능 저하를 초래할 수 있음을 시사합니다.