분산 추적 기반 AI 운영 생태계

카카오톡과 같은 대규모 서비스를 안정적으로 운영하기 위해 자체 개발한 모니터링 솔루션 '매트릭스(MATRIX)'를 소개합니다. 매트릭스는 서버, 애플리케이션 성능, 에러, 로그 등을 실시간으로 모니터링하고, 서비스 간 연결 관계, 트래픽, 근본 원인 분석 등 다양한 기능을 제공합니다.

특히, OpenTelemetry, APM, 에러 로그 트래킹, Prometheus 등 다양한 기술과 오픈소스를 결합하여 구현되었으며, 최근에는 LLM과 같은 AI 기술을 적용하여 운영의 지능화와 유연성을 높이고 있습니다. 다양한 LLM 모델을 연결하고 AI 기능을 효율적으로 관리하는 '매트릭스 AI'를 통해 인시던트 관리, 에러 로그 분석 등 운영 업무를 자동화하고 전문화하는 방안을 제시합니다.