Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장

이 글은 ICSE 2022 논문 "Toward Among-Device AI from On-Device AI with Stream Pipelines"에서 소개된 NNStreamer 프레임워크를 활용한 Device 간 AI 서비스 기능에 대해 설명합니다. 기존 On-Device AI는 개별 기기의 제한된 컴퓨팅 리소스로 인해 한계가 있었으나, NNStreamer는 이러한 문제를 해결하기 위해 2019년부터 삼성전자에서 사용되어 왔습니다.

더 나아가, 이 글은 NNStreamer를 다양한 기업 및 기기에서 활용하여 'Among-Device AI'를 구현하고, 기기 간 AI 파이프라인 연결 및 컴퓨팅 자원 공유를 통해 AI 서비스 개발 비용 절감과 성능 향상을 목표로 함을 강조합니다. 이를 통해 재배포 가능하고 원자적으로 재구성 가능한 AI 서비스 생태계 구축을 지향합니다.