실시간 유해 컨텐츠 필터링 서비스 - 연구 계획(1)

본 글은 실시간 유해 콘텐츠 필터링 서비스 개발을 위한 연구 계획의 첫 번째 내용을 다룹니다. 폭발적으로 증가하는 영상 콘텐츠 속에서 유해 콘텐츠로부터 사용자를 보호하기 위한 실시간 필터링 기술의 필요성을 제기합니다.

현재의 부적절 콘텐츠 분류 방식이 실시간 감지 및 필터링에는 역부족임을 지적하며, 웹캠 및 영상 파일의 유해 장면을 실시간으로 필터링하는 기술 개발을 목표로 합니다. 이를 위해 모델 경량화, Object Detection, Human Detection, 객체 간 Interaction Detection, Confidence Score 도입, 그리고 MLOps를 활용한 지속적인 학습 파이프라인 구축 등 6가지 핵심 과제를 제시합니다.

특히 Human Object Interaction (HOI) detection 기술을 응용하여 유해 객체 탐지뿐 아니라 이미지 상황 이해를 높이고, MLOps를 통해 모델 성능을 지속적으로 향상시키는 방안을 모색합니다.