머신러닝을 활용한 오픈챗 클린 스코어 모델 개발기

LINE의 익명 오픈 채팅 서비스인 오픈챗에서 부적절한 콘텐츠를 필터링하기 위한 '클린 스코어' 모델 개발 과정을 다룹니다. 오픈챗은 익명성을 기반으로 하지만, 욕설, 광고, 성인 이미지 등의 부적절한 콘텐츠 노출 위험이 있습니다.

이를 해결하기 위해 서비스 초기에 사용자 경험을 해치지 않도록 깨끗한 오픈챗을 선별하는 것이 중요했습니다. 클린 스코어 모델은 '부적절한 콘텐츠 발생 없음', '나쁜 사용자 활동 없음', '잘 관리되거나 신고가 활발한 곳'을 기준으로, 향후 일정 시간 동안 징계가 발생할 확률을 예측하여 실시간으로 오픈챗을 필터링하는 것을 목표로 합니다.

이를 통해 사용자에게 안전하고 쾌적한 채팅 환경을 제공하고자 합니다.