Spring Boot + Kubernetes 기반에서 웜업 적용하기

LINE+ ABC Studio 팀은 일본 배달 서비스 '데마에칸'의 점포 목록 제공 API 서비스에 웜업(warm up)을 적용한 경험을 공유합니다. 기존 ElasticSearch 기반에서 Spring Boot, MongoDB, Kubernetes 조합으로 전환하는 과정에서, 서비스 스케일 조정 및 배포 시 요청 처리량이 순간적으로 낮아지는 콜드 스타트 현상을 발견했습니다.

이는 평균 응답 속도의 약 6배에 달하는 지연 시간을 유발했습니다. 이 문제를 해결하기 위해 가상 사용자를 시뮬레이션하여 필요한 기능과 라이브러리를 미리 로딩하는 웜업 전략을 적용하기로 결정했습니다.

본 글에서는 Kubernetes 환경에서 작동하는 JVM 애플리케이션에 웜업을 적용하기 위한 사전 준비 및 요구 사항 정리에 대해 다룹니다.