배포 후 응답 지연? JVM 웜업으로 해결!

굿딜 서비스는 ApplicationRunner를 사용하여 애플리케이션 구동 후 웜업 코드를 실행하도록 구현했다. 또한, K8s 기반 배포 파이프라인에 StartupProbe를 추가하여 웜업 완료 여부를 확인한 후 트래픽을 유입하도록 설정했다.

이러한 과정을 통해 배포 직후의 초기 응답 지연 문제를 해결하고, 서비스 안정성을 확보했다.

글에서는 웜업 적용 전, 초기 응답 지연의 원인이 클래스 로딩 지연(Class Loading Delay)에 있음을 분석한다. 실제 HTTP 요청 처리 및 DB 통신에 필요한 라이브러리 클래스들이 첫 요청 시 로딩되면서, 커넥션 점유 시간 증가 및 커넥션 풀 고갈을 유발했다는 것이다.

결과적으로, 웜업을 통해 이러한 지연 로딩을 해결하여 초기 응답 속도를 개선했다.

웜업 적용 후, 굿딜 서비스는 Connection Usage Time, Connection Acquire Time, HikariCP connection pool, API 응답 속도(Response Time) 등 주요 지표에서 긍정적인 변화를 보였다.

이러한 지표 개선을 통해, 웜업이 초기 응답 지연 문제를 해결하는 데 효과적이었음을 입증했다.

본문에서는 웜업의 두 가지 목표, 즉 클래스 로딩과 JIT 컴파일링에 대해 설명하며, 더 높은 성능을 위해서는 JIT 컴파일러를 활용한 최적화가 필요하다고 강조한다.

결론적으로, 웜업은 초기 지연 해결에 효과적이지만, 더 높은 수준의 성능을 위해서는 JIT 컴파일러의 임계값을 고려한 웜업 또는 AOT 기술을 활용해야 한다.