기지국에 딱 맞는 AI모델: On-Site Training과 추론 가속화
AI-RAN기지국On-Site Training추론 가속화LLM머신러닝
AI 요약
BetaSamsung Research 차세대통신연구센터는 AI-RAN 시대를 대비하여 기지국 내 AI 모델의 추론 가속화 및 On-Site Training 기술을 연구하고 있습니다. AI-RAN은 무선 통신망(RAN)에 인공지능(AI) 기술을 결합한 차세대 통신 기술로, AI-RAN Alliance는 AI 활용 방안을 연구하는 세 개의 워킹 그룹을 운영 중입니다.
5ms 이내), 제한된 리소스, 비용 효율성 등을 고려하여 기지국 개별 맞춤형 AI 모델 개발 경험을 공유합니다. 이를 위해 모델 경량화 및 최적화를 통해 리소스 증설 없이 AI 모델을 적용하는 방안을 모색하고 있습니다.
최적화를 통해 리소스 증설 없이 AI 모델을 적용하는 방안을 모색하고 있습니다.
이 글이 궁금하신가요?
원문 블로그에서 전체 내용을 확인해 보세요
원문 읽으러 가기