딥러닝 모델 Serving 간단 구축기

본 글은 쏘카에서 개발한 딥러닝 기반 차량 파손 탐지 모델을 실제 시스템에 반영하는 과정, 즉 모델 서빙 구축기를 다룹니다. 차량 검수팀이 수동으로 처리하던 방대한 양의 차량 사진 판독 업무를 자동화하기 위해 딥러닝 모델을 도입했으며, 이를 효율적으로 서빙하기 위한 아키텍처를 설계했습니다.

이미지 수집은 S3를 활용하고, 사내 시스템과의 인터페이스는 AWS SQS를 사용합니다. 모델 서빙 자체는 Python 애플리케이션과 Docker를 이용해 Kubernetes 환경에서 실행되며, 배포 및 모니터링은 Git과 Rancher를 통해 관리됩니다.

이 과정을 통해 딥러닝 모델을 안정적으로 운영하고 시스템에 통합하는 방법을 공유합니다.