T4 GPU 1장으로 일궈낸 올리브영의 Gemma 3 기반 sLLM 구축기

올리브영은 Tesla T4 GPU 1장이라는 제한된 환경에서 상용 모델급 성능을 갖춘 가성비 sLLM(Small LLM)을 구축한 경험을 공유합니다. 특히, 사용자의 리뷰 데이터를 분석하여 "복합성 피부에 딱 맞는 클렌징 워터"와 같은 매력적인 추천 테마를 자동으로 생성하는 '리뷰 테마 추천' 시스템에 이 sLLM을 적용했습니다.

이 글은 저사양 GPU 환경에서도 상용 모델 대비 95%의 정확도를 유지하며 운영 비용을 획기적으로 절감한 sLLM 구축 과정과 해결 전략을 상세히 다룹니다.