모바일 GPU에서 뉴럴 네트워크를 더 효율적으로 만들기

LINE+ Camera AI 팀에서 모바일 GPU 환경에서 뉴럴 네트워크 추론 성능을 최적화하기 위한 실험 내용을 공유합니다. 서버 환경이 아닌 모바일 환경에서 AI 모델을 효율적으로 실행하기 위해, 최소한의 성능 감소와 최대한의 속도 향상을 목표로 다양한 가설을 세우고 실험했습니다.

RTX3090과 A13 Bionic 칩셋을 사용하여 개별 연산 단위부터 모델 전체까지 속도를 비교 분석했습니다. 실험에는 Pytorch, TFLite, CoreML 프레임워크를 활용했으며, 모바일과 데스크톱 GPU 사양 비교, 주요 연산 속도 분석, 백본 네트워크 성능 분석 결과를 포함합니다.

이를 통해 모바일 환경에서의 AI 모델 추론 효율성을 높이는 방안을 모색합니다.