GenAI 모델 배포를 위한 툰스퀘어의 Amazon SageMaker 활용 사례

툰스퀘어는 웹툰 창작 플랫폼 '투닝'에서 고해상도 이미지 생성을 위해 GenAI 모델을 활용하고 있습니다. 특히 Stable Diffusion 모델 학습에 Low-Rank Adaptation(LoRA) 기법을 적용하여 학습 속도를 높이고 GPU 요구 사항을 최소화했습니다.

모델 학습, 추론, 배포를 포함하는 전체 ML 파이프라인 관리를 위해 Amazon SageMaker를 도입했으며, SageMaker Studio에서 개발을 수행하고 SageMaker 추론 엔드포인트를 생성하여 Amazon API Gateway를 통해 사용자 요청을 처리합니다. 이 글은 툰스퀘어가 SageMaker를 모델 추론에 활용할 때 고려한 요건과 엔드포인트 생성 방법을 중심으로 설명합니다.