함께 구매하면 좋은 상품이에요! - 장바구니 추천 개발기 2부

이 글은 컬리에서 장바구니 추천 모델을 실제 사용자에게 실시간으로 제공하기 위해 구축한 아키텍처를 소개합니다. 이전 글에서 개발된 추천 모델을 효과적으로 서빙하기 위해 AWS EKS 클러스터를 중심으로 한 실시간 서빙 아키텍처를 설계했습니다.

이 아키텍처는 모델 API, 서비스 API, MLOps, 모니터링, 배포 과정으로 구성됩니다. 특히 서비스 API는 모델 API 응답 실패 시 대체 응답 제공, A/B 테스트를 위한 라우팅, 후처리 비즈니스 로직 적용, 그리고 로깅 기능을 담당합니다.

로깅 데이터는 Kafka와 Nifi를 거쳐 BigQuery에 실시간으로 적재되며, Datadog과 Slack을 통해 시스템을 모니터링하고 알림을 설정합니다. 이를 통해 추천 모델의 부가가치를 성공적으로 사용자에게 전달하고 있습니다.