고 처리량 분산 비율 제한기

이 글은 프로덕션 등급의 분산 시스템, 특히 마이크로 서비스 아키텍처에서 컴포넌트 간 과부하를 방지하고 서비스 품질을 보장하기 위한 '비율 제한기(rate limiter)'에 대해 다룹니다. 특히, 단일 호스트가 아닌 고 처리량(high-throughput) 분산 시스템을 위한 클라이언트 측 비율 제한기에 초점을 맞춥니다.

글에서는 '제공자(provider)', '소비자(consumer)', '제공자 측 비율 제한기', '소비자 측 비율 제한기', '비율 한도(rate limit)'와 같은 용어를 정의하고, 소비자 측과 제공자 측 비율 제한기의 개념적 유사점과 차이점, 특히 비율 한도 도달 시 처리 방식의 차이를 설명합니다. 이는 대규모 트래픽 환경에서 시스템 안정성을 유지하는 데 중요한 기술입니다.