Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장

이 글은 ICSE 2022 논문 "Toward Among-Device AI from On-Device AI with Stream Pipelines"에서 소개된 NNStreamer 프레임워크를 중심으로 Device 간 연결을 통한 AI Service 기능을 설명합니다. On-Device AI는 개인정보 보호, 지연 시간 제거, 클라우드 비용 절감 등의 장점이 있지만, 제한된 컴퓨팅 리소스라는 한계가 있습니다.

삼성리서치는 이러한 문제를 해결하기 위해 2019년부터 NNStreamer를 도입했으며, 현재는 NXP, FaindersAI 등 다양한 기업과 협력하여 NNStreamer 생태계를 확장하고 있습니다. 특히, 'Among-Device AI' 개념을 도입하여 서로 다른 기기 내의 NNStreamer 기반 AI Pipeline을 연결하고, 제조사에 관계없이 컴퓨팅 자원과 하드웨어 역량을 공유할 수 있도록 개발했습니다.

이는 확장된 NNStreamer 프레임워크를 통해 가능하며, AI 서비스의 재배포 및 공유를 용이하게 합니다.