29CM 로그 수집 시스템 소개

29CM은 기존 Python/Django 기반 모놀리틱 시스템과 신규 Java/Spring 기반 MSA 시스템에서 발생하는 로그를 효과적으로 수집하고 관리하기 위한 시스템을 운영하고 있습니다. 이 글은 두 시스템에서 사용되는 ELK(ElasticSearch, Logstash, Kibana)와 Kafka를 중심으로 한 로그 수집 시스템의 구축 및 운영 경험을 공유합니다.

특히, 신규 로그 증가로 인한 ElasticSearch 디스크 부족으로 로그 적재 실패 장애가 발생했던 경험을 상세히 설명하며, 장애 원인 분석과 대응 과정을 통해 로그 시스템의 안정적인 운영을 위한 인사이트를 제공합니다. MSA 환경에서의 로그 관리 중요성과 잠재적 문제점, 그리고 이를 해결하기 위한 방안을 다룹니다.