KT, Amazon SageMaker를 이용한 ViT 기반 Food Tag 모델의 학습 시간 단축 여정

KT는 사진 속 음식의 종류와 영양 성분을 분석하는 AI 기반 식이 관리 솔루션 'AI Food Tag'를 개발했습니다. 이 솔루션은 Vision Transformers (ViT) 기반 모델을 사용하며, 상용화를 위해 Knowledge Distillation 기법을 활용한 모델 경량화를 진행 중입니다.

기존 내부 환경에서 2장의 A100 GPU로 300 epoch 학습에 40일이 소요되는 등 학습 속도에 한계가 있었습니다. 이에 KT는 AWS와의 협력을 통해 Amazon SageMaker Training과 SageMaker's Data Parallelism Library를 도입하여 모델 학습 시간을 단축하는 PoC를 진행했습니다.

이를 통해 확장성 높은 AWS 클라우드 환경에서 더 빠르게 경량화 모델을 확보하는 데 성공했습니다.