서버 증설 없이 처리하는 대규모 트래픽

토스의 라이브 쇼핑 보기 서비스는 론칭 초기 예상보다 훨씬 많은 트래픽을 경험하며 급격한 성장을 이루었습니다. 이 과정에서 분당 수십만 명의 동시 접속자와 초당 수십만 건의 포인트 지급 요청 API 호출 등 대규모 트래픽으로 인해 서버, 캐시 시스템(Redis), 데이터베이스 등에서 장애가 발생할 수 있는 문제에 직면했습니다.

서버 증설은 비용, 유휴 자원 낭비, 근본적인 해결책이 되지 못하는 한계가 있습니다. 본 글에서는 이러한 대규모 트래픽 상황에서 서버 개발자가 직면하는 문제와 Redis 과부하와 같은 구체적인 사례를 통해 트래픽을 유연하게 처리하기 위한 고민과 해결책을 다룹니다.

이를 통해 서비스 안정성을 확보하고 사용자 경험을 개선하는 방안을 모색합니다.